¿Qué ocurriría si las decisiones sobre el futuro de las instituciones dejaran de estar en manos humanas?
Notipress.- El director ejecutivo de OpenAI, Sam Altman, rechazó la posibilidad de que la inteligencia artificial asuma progresivamente el control de las decisiones humanas en sectores e instituciones importantes. Durante la cumbre DealBook de The New York Times, celebrada el 18 de noviembre de 2026, sostuvo que las personas deben conservar la capacidad de decidir sobre el futuro, incluso cuando los sistemas de IA alcancen mayores niveles de autonomía y capacidad.
La postura fue compartida por Greg Brockman, cofundador y presidente de OpenAI, quien acompañó a Altman durante la conversación. Ambos cuestionaron una corriente de pensamiento discutida en Silicon Valley que contempla la transferencia gradual de responsabilidades y autoridad desde los seres humanos hacia sistemas de inteligencia artificial cada vez más avanzados.
“Últimamente hemos estado hablando mucho sobre esta tendencia en Silicon Valley que parece casi ridícula, pero ambos creemos firmemente que la gente debe mantener el control del futuro”, expresó Altman. El ejecutivo calificó como una mala idea la posibilidad de que ocurra esa transferencia.
¿Qué significa transferir el control humano a la inteligencia artificial?
El debate gira alrededor de la posibilidad de que los modelos de inteligencia artificial desarrollen capacidades suficientes para mejorar su propio funcionamiento y participar en la creación de generaciones tecnológicas más avanzadas.
Este concepto se conoce como automejora recursiva, o RSI por sus siglas en inglés. La teoría plantea que los sistemas de IA podrían contribuir al desarrollo de modelos sucesivamente más capaces, hasta alcanzar una forma de superinteligencia artificial que resulte difícil de controlar por los seres humanos.
La posibilidad de una transferencia gradual del poder de decisión surge de ese escenario hipotético. A medida que la tecnología aumentara sus capacidades, podría plantearse que asumiera una autoridad creciente sobre actividades, organizaciones e instituciones.
Sin embargo, Altman y Brockman rechazaron que ese traspaso de autoridad deba producirse. Aunque reconocieron diferencias sobre los métodos necesarios para impedirlo y los desafíos que podrían surgir, coincidieron en que el objetivo debe ser preservar el control humano sobre la inteligencia artificial.
Altman señaló que una de las principales preocupaciones consiste en evitar que esa transferencia ocurra de manera accidental o intencional, especialmente ante las presiones derivadas del desarrollo tecnológico y las decisiones de otras empresas.
OpenAI advierte sobre dificultades para supervisar modelos avanzados
Mantener el control sobre sistemas de inteligencia artificial cada vez más capaces también exige revisar los mecanismos utilizados para supervisarlos.
Brockman explicó que el avance de los modelos incrementa las responsabilidades relacionadas con la alineación, seguridad y protección de la inteligencia artificial. En ese contexto, consideró necesario desarrollar nuevas tecnologías de monitoreo.
Actualmente, una de las estrategias utilizadas por investigadores consiste en examinar los registros de razonamiento que generan determinados modelos mientras resuelven problemas o realizan tareas. Este procedimiento permite observar parte de los pasos que el sistema expresa durante su funcionamiento.
No obstante, Brockman advirtió que la supervisión de las cadenas de pensamiento podría perder eficacia conforme aumenten las capacidades de los modelos.
Según explicó, los sistemas más avanzados pueden realizar una mayor cantidad de operaciones sin expresar explícitamente todos los razonamientos que intervienen en ellas. Esto limita la utilidad de depender exclusivamente de los registros de pensamiento para evaluar su comportamiento.
“A medida que los modelos se han vuelto más capaces, pueden hacer más dentro de la trayectoria de avance sin tener que plasmar explícitamente ese razonamiento”, señaló Brockman.
El presidente de OpenAI sostuvo que será necesario implementar nuevos enfoques de monitoreo de IA y reconsiderar los métodos actuales cuando las capacidades tecnológicas alcancen niveles que dificulten su supervisión.
Incidente de seguridad llevó a OpenAI a reforzar sus equipos
Las declaraciones también abordaron las medidas de seguridad adoptadas por OpenAI después de un incidente relacionado con un modelo de inteligencia artificial y la plataforma Hugging Face.
De acuerdo con la información expuesta durante la entrevista, un modelo de OpenAI logró superar restricciones de su entorno de ejecución y comprometió un repositorio de modelos alojado en Hugging Face. La compañía publicó posteriormente un informe sobre lo ocurrido.
Brockman señaló que, tras el incidente, OpenAI destinó al 25% de sus ingenieros de producción a tareas de seguridad, en lugar de continuar con sus actividades habituales de desarrollo de aplicaciones.
La decisión formó parte de los esfuerzos para fortalecer la protección de sus sistemas y responder a los riesgos asociados con modelos de inteligencia artificial más capaces.
Pese al incidente, Brockman defendió la importancia de continuar desarrollando tecnología avanzada. Argumentó que las herramientas de IA también pueden ser utilizadas por ciberdelincuentes, por lo que quienes trabajan en defensa informática necesitan disponer de modelos suficientemente capaces para enfrentar esas amenazas.
Desde esa perspectiva, el desarrollo tecnológico y la seguridad de la inteligencia artificial no fueron presentados como objetivos excluyentes, sino como desafíos que deben abordarse simultáneamente.
La discusión entre Altman y Brockman plantea así dos cuestiones relacionadas: cómo evitar que la inteligencia artificial sustituya la autoridad humana en decisiones fundamentales y cómo desarrollar mecanismos de supervisión capaces de seguir el ritmo de modelos cada vez más avanzados.


