Ottawa y Berlín comprometieron hasta 300 millones de dólares canadienses para LawZero, una organización fundada por Yoshua Bengio que desarrolla sistemas de inteligencia artificial concebidos para ser transparentes, verificables y seguros desde su diseño.
Canadá y Alemania anunciaron una nueva alianza para impulsar el desarrollo de sistemas de inteligencia artificial con mayores garantías de seguridad, transparencia y autonomía tecnológica. El acuerdo fue presentado el miércoles durante la conferencia ALL IN, celebrada en Montreal, y contempla una inversión conjunta de hasta 300 millones de dólares canadienses en la organización sin fines de lucro LawZero.
El anuncio fue realizado por el ministro canadiense de Inteligencia Artificial e Innovación Digital, Evan Solomon, y su homólogo alemán de Transformación Digital y Modernización del Gobierno, Karsten Wildberger. Ambos gobiernos plantean que la cooperación permita desarrollar tecnologías avanzadas que respondan a principios de confianza, seguridad y soberanía tecnológica.
La cifra requiere una precisión importante. El Gobierno de Canadá anunció una aportación de 150 millones de dólares canadienses, mientras que Alemania prevé aportar 100 millones de euros, equivalentes aproximadamente a otros 150 millones de dólares canadienses. En conjunto, la financiación alcanza hasta 300 millones de dólares canadienses.
El dinero estará destinado a LawZero, organización con sede en Montreal fundada por Yoshua Bengio, uno de los investigadores más reconocidos en el desarrollo de las redes neuronales y ganador del Premio Turing de 2018. Su trabajo actual se concentra en una aproximación distinta a la construcción de sistemas avanzados de IA.
En lugar de desarrollar modelos cuyo funcionamiento dependa de perseguir objetivos de manera autónoma, LawZero trabaja en Scientist AI, un sistema concebido para razonar de forma transparente y producir resultados basados en evidencias. De acuerdo con el Gobierno canadiense, el proyecto busca que la seguridad y la confiabilidad formen parte del diseño del sistema desde sus primeras etapas.
La organización utilizará los recursos para ampliar su equipo internacional de investigación, contratar personal especializado y aumentar su capacidad de cómputo. Canadá también prevé establecer infraestructura informática soberana en colaboración con las empresas Hypertec y 5C.
El proyecto tiene además una dimensión laboral. Según el Gobierno canadiense, la inversión permitirá crear 360 empleos de tiempo completo en Canadá. La financiación alemana, por su parte, está sujeta a la notificación correspondiente ante la Comisión Europea y permitirá ampliar las actividades de investigación y desarrollo de LawZero en Alemania.
Y es que detrás del acuerdo existe una preocupación que ha ganado fuerza entre investigadores, gobiernos y empresas: qué ocurre cuando los sistemas de IA adquieren capacidades cada vez mayores y pueden ejecutar tareas con un grado creciente de autonomía.
Bengio ha sido uno de los científicos que con mayor insistencia ha pedido estudiar esos riesgos. En declaraciones recogidas por AFP antes del anuncio, el investigador sostuvo que la humanidad está perdiendo capacidad de control sobre esta tecnología y reclamó la adopción de medidas de protección a escala internacional.
La alianza también amplía una cooperación tecnológica que Canadá y Alemania habían comenzado a formalizar meses atrás. En febrero, ambos países firmaron una declaración conjunta de intención sobre inteligencia artificial y anunciaron una Alianza Tecnológica Soberana destinada a fortalecer sus capacidades propias y reducir dependencias estratégicas en tecnologías emergentes.
El acercamiento no se limita a LawZero. El Instituto Alemán de Investigación en Inteligencia Artificial y el instituto canadiense Mila también acordaron durante la conferencia ALL IN una asociación para colaborar en inteligencia artificial confiable, sistemas capaces de actuar de manera autónoma, seguridad de la IA y aplicaciones tecnológicas para el sector energético.
La cooperación ocurre además en un momento en que distintos gobiernos buscan reducir su dependencia de proveedores extranjeros de infraestructura y modelos de inteligencia artificial. Alemania ha incrementado su apuesta por desarrollar capacidades tecnológicas propias dentro de Europa, mientras Canadá intenta fortalecer su posición como centro de investigación y desarrollo de IA.
En ese contexto, la llamada soberanía tecnológica no significa únicamente tener empresas nacionales. También implica disponer de investigadores, infraestructura informática, datos, capacidad de cómputo y conocimiento suficiente para desarrollar y evaluar sistemas avanzados sin depender completamente de tecnologías controladas desde otros países.
El anuncio canadiense y alemán coincide con un mayor debate internacional sobre cómo gestionar los riesgos de la IA. En las últimas semanas, investigadores y dirigentes del sector han reclamado mecanismos de supervisión, evaluaciones independientes y normas que permitan limitar comportamientos peligrosos de sistemas cada vez más capaces.
Sin embargo, el proyecto de LawZero todavía se encuentra en una etapa de desarrollo. La financiación permitirá avanzar en investigación y herramientas para evaluar y supervisar sistemas existentes, además de trabajar hacia una metodología para crear modelos avanzados concebidos con criterios de seguridad desde su origen. Por ahora, no existe garantía de que ese enfoque resuelva por sí mismo los problemas asociados con los sistemas de IA más avanzados.
La iniciativa llega también en medio de un acercamiento político más amplio entre Canadá y Europa. El mismo miércoles, la presidenta de la Comisión Europea, Ursula von der Leyen, propuso que Canadá pudiera convertirse en el primer país con estatus de miembro asociado de la Unión Europea, una fórmula todavía sujeta a negociaciones y que no equivale a la adhesión plena al bloque.
Así, la alianza en inteligencia artificial forma parte de una relación que está adquiriendo nuevas dimensiones. Tecnología, seguridad, infraestructura y autonomía estratégica comienzan a aparecer juntas en las agendas de Ottawa y de sus socios europeos.
El reto será convertir los anuncios y las inversiones en sistemas que realmente puedan demostrar sus garantías de seguridad. Por ahora, Canadá y Alemania han decidido apostar por una idea concreta: que la próxima generación de inteligencia artificial no solo sea más capaz, sino también más transparente y controlable desde su propio diseño.