Un investigador deja Anthropic y advierte sobre el avance hacia una IA capaz de automejorarse
Notipress.- Jacob Coxon, investigador de 27 años, renunció a Anthropic después de haber trabajado en dos de los laboratorios más influyentes en inteligencia artificial. Pero su salida se hizo notar ya que luego de abandonar la empresa compartió una contundente advertencia sobre el rumbo que, a su juicio, está tomando la competencia por desarrollar sistemas cada vez más poderosos.
Durante tres años trabajó en preentrenamiento, primero en OpenAI y posteriormente en Anthropic. Desde esa experiencia cuestionó la conducta de ambas compañías. “Ninguna de las dos empresas actúa con responsabilidad”, escribió en X, antes de afirmar que avanzan hacia una superinteligencia capaz de mejorarse a sí misma y que están “apostando con nuestras vidas”.
Coxon distingue, sin embargo, las razones que atribuye a cada laboratorio. En OpenAI percibió que parte del personal no había asumido plenamente las posibles consecuencias para la sociedad. En Anthropic encontró una preocupación mayor por la seguridad, pero también una lógica competitiva difícil de abandonar.
Para el investigador, esa dinámica empuja a la compañía a continuar porque considera que otros actores podrían avanzar de todos modos. Coxon describió esa etapa como “una apuesta soberbia que no debería lanzarse desde el Slack de una empresa privada”.
Su preocupación apunta especialmente a sistemas futuros que puedan participar en su propio perfeccionamiento. “Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”, escribió en X.
El joven advirtió que podrían presentarse escenarios en los que “a fines del año que viene las cosas ya podrían estar fuera de control”. También señaló que entre algunos investigadores circulan expresiones como crunchtime —hora límite— y endgame —fase final— para hablar del momento hacia el que creen que avanza el desarrollo de la IA.
Una advertencia respaldada desde dentro de Anthropic
Evan Hubinger, responsable de investigación en alineación en Anthropic, reaccionó públicamente a la renuncia y respaldó parte de la preocupación de Coxon. “¡De verdad creemos que la IA puede matar a todo el mundo! Yo personalmente creo que la probabilidad es superior al 10% en la próxima década”, escribió en X.
Hubinger aclaró que no considera especialmente peligrosos a los modelos disponibles en la actualidad. Su inquietud se concentra en una posible superinteligencia generada mediante automejora recursiva, un proceso en el que un sistema cada vez más capaz pudiera contribuir al desarrollo de versiones superiores de sí mismo.
Además, sostuvo que Anthropic todavía no cuenta con una solución establecida para uno de los problemas centrales de ese escenario: conseguir que una inteligencia mucho más avanzada mantenga objetivos compatibles con los valores y decisiones humanas.
De OpenAI a Anthropic y una salida en apenas dos meses
Antes de llegar a Anthropic, Coxon formó parte del equipo técnico de OpenAI desde 2023 hasta julio de 2026 y trabajó en GPT-4o. Después eligió Anthropic atraído por su reputación en materia de seguridad, pero permaneció allí solamente dos meses.
Al explicar la dimensión del desafío, Coxon afirmó que “es una locura que esto tenga que pasar en las MacBooks de unos ingenieros que viven en San Francisco, en vez de en un búnker en el desierto como donde hacían el Proyecto Manhattan”.
