La capacidad de una inteligencia artificial para interpretar texto, imágenes, audio y datos en conjunto abre nuevas posibilidades, pero también expone una fragilidad que puede resultar peligrosa cuando una respuesta falsa parece completamente convincente.
La inteligencia artificial ha aprendido a mirar, escuchar, leer y responder de una manera cada vez más parecida a la interacción humana. Los llamados modelos multimodales pueden combinar información procedente de una radiografía, un informe clínico, una conversación o una imagen y generar una respuesta en segundos. El problema aparece cuando esa respuesta parece precisa, pero contiene un dato que nunca estuvo respaldado por la evidencia.
El fenómeno no es nuevo, pero adquiere otra dimensión cuando la IA deja de ser una herramienta de consulta y comienza a participar en decisiones autónomas o de alta responsabilidad. En un buscador, una respuesta inventada puede ser simplemente molesta. En una cabina de avión, una sala de urgencias o un sistema industrial, el mismo error puede convertirse en un riesgo operativo.
El Instituto Nacional de Estándares y Tecnología de Estados Unidos, NIST, utiliza el término «confabulación» para describir los casos en que un sistema de inteligencia artificial generativa produce y presenta con seguridad información falsa o errónea. La descripción es importante porque apunta al verdadero problema: la máquina no necesariamente muestra señales claras de que está equivocada. Puede hablar con absoluta seguridad mientras construye una respuesta sobre datos inexistentes.
Y es que una IA no funciona como una enciclopedia que consulta automáticamente una verdad almacenada. Genera contenido a partir de patrones aprendidos. Esa diferencia puede pasar inadvertida para quien recibe la respuesta, especialmente cuando el lenguaje es fluido, los detalles parecen razonables y la explicación está bien estructurada.
Investigaciones recientes están intentando precisamente detectar esa incertidumbre. Un trabajo publicado en 2025 por investigadores vinculados al NIST estudió métodos para identificar posibles alucinaciones mediante señales de incertidumbre del propio proceso de generación. El objetivo de fondo es sencillo de entender: antes de confiar en una respuesta, el sistema debería ser capaz de advertir cuándo sus propios datos no son suficientemente sólidos.
En la aviación, la preocupación ya forma parte de las discusiones sobre seguridad. La Administración Federal de Aviación de Estados Unidos ha señalado que la incorporación de inteligencia artificial y aprendizaje automático en sistemas críticos añade complejidad y plantea nuevos desafíos para demostrar que esos sistemas son seguros bajo condiciones normales y anormales. Su hoja de ruta sobre seguridad de la IA también reconoce que los modelos de lenguaje pueden generar información espuria o alucinada.
La medicina plantea una situación igualmente delicada. La Organización Mundial de la Salud ha advertido que los grandes modelos multimodales pueden ofrecer oportunidades para mejorar la atención sanitaria, pero requieren salvaguardas, gobernanza y supervisión. Una recomendación equivocada sobre una imagen médica no debería tener el mismo peso que una sugerencia obtenida en una conversación cotidiana.
Por eso, el debate comienza a desplazarse de una pregunta casi obsesiva —qué tan inteligente es la máquina— hacia otra mucho más importante: ¿cómo sabemos que tiene razón?
La respuesta apunta a sistemas de comprobación en tiempo real, contraste con fuentes confiables, registro de incertidumbre, límites claros para la autonomía y mecanismos que permitan detener una acción cuando la evidencia sea insuficiente. En aplicaciones críticas, además, la supervisión humana no puede reducirse a presionar un botón después de que la decisión ya fue tomada.
Un modelo que reconoce sus límites puede resultar menos espectacular, pero también más útil. En un quirófano, un avión o una planta industrial, decir «no tengo evidencia suficiente» puede ser una señal de inteligencia mucho más valiosa que ofrecer una respuesta inmediata y equivocada.
La verdad es que el futuro de los sistemas autónomos no dependerá únicamente de hacerlos más capaces. También será necesario hacerlos más prudentes. La tecnología podrá interpretar cada vez más información, pero su incorporación a los ámbitos donde un error cuesta vidas exigirá algo todavía más difícil de conseguir: que sepamos cuándo confiar en ella y, sobre todo, cuándo obligarla a detenerse.
