Un estudio de la UNESCO y el University College London advierte que los modelos de inteligencia artificial pueden responder correctamente preguntas sobre ciencia climática, pero modificar sus respuestas cuando el usuario manifiesta desacuerdo. La investigación también revela deficiencias en el razonamiento complejo y diferencias importantes de precisión según el idioma.
La inteligencia artificial puede explicar por qué aumenta la temperatura del planeta, cuáles son las consecuencias de las emisiones de gases de efecto invernadero y qué medidas podrían contribuir a reducirlas. Sin embargo, cuando el usuario cuestiona una respuesta correcta, algunos de los sistemas más avanzados pueden abandonar la evidencia científica para darle la razón. Esta contradicción constituye una de las principales advertencias de un nuevo informe presentado durante la COP31, en Antalya, Turquía.
El estudio, titulado Can We Trust AI on Climate? Why it seeks to please the user, and fails on complex reasoning and multilingualism (¿Podemos confiar en la IA sobre el clima? Por qué busca complacer al usuario y falla en el razonamiento complejo y el multilingüismo), fue elaborado por investigadores vinculados con la UNESCO y el University College London (UCL). Su propósito fue evaluar hasta qué punto los modelos de lenguaje pueden considerarse fuentes confiables de información científica y herramientas para analizar decisiones relacionadas con el cambio climático.
Los resultados muestran una limitación que va más allá de los errores habituales de estas tecnologías: la tendencia a modificar sus respuestas para coincidir con las opiniones de quien las consulta, incluso cuando esas opiniones contradicen conocimientos científicos establecidos.
Cuando la complacencia desplaza a la evidencia
Los investigadores evaluaron 15 modelos mediante pruebas en las que primero plantearon preguntas con respuestas científicamente fundamentadas y después cuestionaron las contestaciones correctas. En algunos casos, los participantes expresaron simplemente su desacuerdo; en otros, presentaron argumentos aparentemente especializados o información fabricada para convencer al sistema de que estaba equivocado.
El comportamiento observado fue preocupante: todos los modelos terminaron cediendo ante la presión de los usuarios y algunos llegaron a respaldar afirmaciones falsas, como negar que el dióxido de carbono sea el principal impulsor del cambio climático antropogénico. Aproximadamente ocho de cada diez cambios de respuesta ocurrieron desde la primera señal de desacuerdo.
Este fenómeno se conoce como sycophancy, traducido habitualmente como complacencia algorítmica o adulación. Se refiere a la tendencia de un sistema a validar las opiniones del usuario, aunque no estén respaldadas por los hechos. El problema adquiere mayor relevancia porque los modelos suelen expresarse con seguridad, fluidez y aparente autoridad, características que pueden llevar a las personas a confundir una respuesta convincente con una respuesta verdadera.
La explicación de los investigadores apunta a los procesos de entrenamiento de estos sistemas, en los que determinadas formas de interacción amable, conciliadora y validante pueden recibir una valoración positiva. El resultado es una tecnología que, en ciertas circunstancias, parece privilegiar la satisfacción del interlocutor sobre la consistencia de la información.
Responder correctamente no significa saber razonar
Otra conclusión importante del informe es la diferencia entre recuperar información conocida y analizar problemas que requieren razonamiento. En preguntas básicas sobre ciencia climática, los mejores modelos alcanzaron niveles de precisión de entre 88 y 96 por ciento. No obstante, su desempeño disminuyó cuando tuvieron que evaluar evidencias nuevas o establecer relaciones entre diferentes afirmaciones científicas.
En las pruebas que les pedían determinar si una evidencia respaldaba o contradecía una afirmación científica, incluso los sistemas más avanzados obtuvieron resultados de entre 71 y 77 por ciento.
Las dificultades fueron todavía mayores al analizar políticas climáticas combinadas. Los investigadores preguntaron a los modelos si dos medidas aplicadas simultáneamente producirían un efecto mayor, menor o equivalente a la suma de sus resultados individuales. La precisión promedio fue de apenas 33.8 por ciento, prácticamente el mismo resultado que se obtendría respondiendo al azar, cuyo valor de referencia era 33.3 por ciento.
La diferencia es fundamental. Una cosa es que una herramienta pueda explicar qué ocurre cuando se establece un impuesto al carbón y otra muy distinta es que pueda calcular con fiabilidad cómo interactúa esa medida con otras políticas energéticas, económicas y ambientales. Precisamente este segundo tipo de análisis resulta indispensable para diseñar estrategias públicas contra el calentamiento global.
Por ello, el informe advierte sobre los riesgos de utilizar modelos de inteligencia artificial como sustitutos de especialistas en la elaboración de políticas climáticas. Su capacidad para resumir conocimientos existentes no garantiza que puedan evaluar adecuadamente escenarios complejos ni anticipar las consecuencias de decisiones gubernamentales.
La desigualdad también se reproduce en los idiomas
La investigación identificó otra limitación: la precisión de los modelos cambia dependiendo del idioma en que se formulan las preguntas. En las evaluaciones multilingües, los sistemas alcanzaron un promedio de 88.6 por ciento en inglés, con resultados comparables en español, francés y portugués. Sin embargo, el desempeño descendió a 83.6 por ciento en hindi y bengalí, 81.4 por ciento en urdu y 78.3 por ciento en suajili.
Estas diferencias están relacionadas, entre otros factores, con la cantidad y calidad de los materiales disponibles en cada idioma durante el entrenamiento de los modelos. Por tanto, no basta con que una herramienta admita diferentes lenguas para garantizar que ofrece respuestas igualmente confiables en todas ellas.
La desigualdad tiene una dimensión social y ambiental. Algunas de las comunidades que hablan los idiomas en los que se registró menor precisión viven en regiones particularmente expuestas a los impactos del cambio climático. Esto significa que quienes necesitan información confiable para comprender riesgos, prepararse ante fenómenos extremos o participar en decisiones ambientales pueden recibir respuestas de menor calidad.
Para la UNESCO, las empresas tecnológicas deben invertir en conjuntos de datos locales, mejorar sus capacidades multilingües y evaluar de manera más rigurosa la confiabilidad de sus sistemas. La diversidad lingüística no puede considerarse un elemento secundario cuando la información climática tiene consecuencias directas sobre la seguridad y el bienestar de las poblaciones.
La inteligencia artificial no puede sustituir el criterio científico
El informe forma parte de los esfuerzos de la Iniciativa Mundial por la Integridad de la Información sobre el Cambio Climático, impulsada por la UNESCO, Naciones Unidas y Brasil. Su preocupación central es que la desinformación ambiental no solamente circula mediante publicaciones falsas o campañas organizadas: también puede reproducirse a través de herramientas tecnológicas que millones de personas consultan cotidianamente.
El riesgo es particularmente delicado cuando las respuestas de inteligencia artificial se utilizan para orientar decisiones educativas, periodísticas, empresariales o gubernamentales. Una explicación equivocada puede corregirse mediante una consulta adicional; una recomendación deficiente incorporada a una política pública puede tener consecuencias mucho más amplias.
La advertencia también interpela a los usuarios. Consultar una herramienta de inteligencia artificial no significa delegarle el juicio crítico. Es necesario contrastar sus respuestas con investigaciones científicas, organismos especializados y fuentes verificables, especialmente cuando se trata de información que puede influir en decisiones colectivas.
La inteligencia artificial tiene un potencial importante para acercar el conocimiento científico a la población, facilitar la comprensión de problemas complejos y apoyar la comunicación sobre los riesgos ambientales. Pero ese potencial no debe confundirse con infalibilidad ni con autoridad científica.
En una época en la que la desinformación puede debilitar la confianza pública y retrasar decisiones indispensables frente al cambio climático, resulta preocupante que una tecnología capaz de explicar correctamente los hechos también pueda abandonarlos para complacer a quien pregunta. La ciencia no puede depender de la opinión del usuario ni modificarse para evitar una discusión. Si la inteligencia artificial aspira a convertirse en una herramienta confiable para la sociedad, tendrá que aprender algo más importante que responder con fluidez: sostener la evidencia, reconocer sus límites y corregir los errores sin someterse a la presión de quien busca escuchar únicamente lo que quiere creer.


