El papa León XIV volvió a cuestionar la delegación de decisiones humanas en sistemas algorítmicos y colocó la responsabilidad, la conciencia y las relaciones personales en el centro del debate sobre el avance de la inteligencia artificial.
La inteligencia artificial ya no es una posibilidad lejana. Decide qué contenidos aparecen en una pantalla, ayuda a seleccionar candidatos para un empleo, interviene en procesos financieros y comienza a participar en tareas que antes exigían directamente el criterio de una persona. En ese escenario, el papa León XIV volvió este miércoles a advertir sobre un riesgo que considera cada vez más concreto: acostumbrarnos a entregar a los algoritmos decisiones que deberían permanecer bajo responsabilidad humana.
Durante su audiencia general del 16 de septiembre en la plaza de San Pedro, el pontífice vinculó la expansión de la inteligencia artificial con el crecimiento de las redes sociales y de los medios digitales. Según la información difundida por AFP, León XIV sostuvo que estas tecnologías derriban barreras y distancias, pero también pueden hacer que las relaciones sean menos personales y más virtuales.
Su preocupación no consiste en rechazar la tecnología. De hecho, esa distinción aparece con claridad en su primera encíclica, Magnifica Humanitas, firmada el 15 de mayo y publicada por la Santa Sede el 25 de mayo de 2026. El documento reconoce que la digitalización, la inteligencia artificial y la robótica pueden mejorar las condiciones de vida, pero advierte que su poder también puede afectar la dignidad humana, las relaciones sociales y la distribución del poder.
La encíclica plantea una cuestión particularmente relevante: los sistemas de inteligencia artificial pueden intervenir en decisiones relacionadas con el empleo, el crédito, los servicios y la reputación de las personas. Cuando una decisión de ese tipo queda completamente en manos de un sistema automatizado, aparece una pregunta difícil de esquivar: ¿quién responde cuando el algoritmo se equivoca?
El problema no es solamente técnico. Un algoritmo puede procesar enormes cantidades de información en segundos, encontrar patrones y ofrecer una recomendación. Pero procesar datos no equivale a asumir responsabilidad moral. La Santa Sede sostiene en Magnifica Humanitas que los sistemas de IA no poseen conciencia moral ni experimentan las consecuencias de sus decisiones como lo hace una persona.
Esta discusión coincide con un debate internacional más amplio. UNESCO celebra esta semana en París el cuarto Foro Mundial sobre la Ética de la Inteligencia Artificial, dedicado precisamente a cuestiones relacionadas con gobernanza, responsabilidad y nuevas formas de interacción entre seres humanos y sistemas automatizados. El encuentro reúne a representantes gubernamentales, investigadores y especialistas en ética tecnológica.
La preocupación tampoco pertenece exclusivamente al ámbito religioso. Organismos internacionales y expertos en tecnología han advertido que los sistemas automatizados pueden reproducir sesgos presentes en los datos con los que son entrenados. También existe preocupación por la opacidad de algunos modelos: una persona puede recibir una decisión que afecta su vida sin conocer con claridad qué variables intervinieron para producirla.
León XIV ha llevado esa discusión a un terreno más amplio. En su encíclica sostiene que la IA puede aumentar la participación y la justicia, pero también ampliar desigualdades, mecanismos de control y exclusión. Por eso reclama evaluaciones del impacto humano y social, alfabetización digital, transparencia y controles efectivos, especialmente cuando están en juego derechos fundamentales.
Hay, además, una dimensión cotidiana que suele perderse entre las discusiones sobre modelos cada vez más sofisticados. Delegar una decisión no siempre significa pulsar un botón y dejar que una máquina elija. También puede ocurrir lentamente: aceptar una recomendación sin comprobarla, permitir que una plataforma determine qué información merece nuestra atención o asumir que una respuesta generada automáticamente es necesariamente correcta.
La advertencia papal llega, por tanto, en un momento en que la discusión sobre inteligencia artificial está pasando de la fascinación por sus capacidades a una pregunta más incómoda: qué tareas no deberíamos delegar. La eficiencia tiene un valor evidente, pero no todos los problemas humanos pueden reducirse a velocidad, precisión estadística o capacidad de cálculo.
La verdad es que la tecnología puede ayudarnos a decidir mejor sin convertirse en quien decide por nosotros. Esa parece ser la frontera que León XIV intenta señalar. En una sociedad cada vez más atravesada por algoritmos, preservar la responsabilidad humana no significa rechazar las máquinas, sino recordar quién debe responder cuando una decisión cambia la vida de una persona.