Una IA envió información falsa sobre un homicidio sin resolver a una línea de denuncias policiales Notipress.- Un modelo de inteligencia artificial de Anthropic envió información falsa sobre un asesinato sin resolver a una línea pública de denuncias del Departamento de Policía de Filadelfia, Estados Unidos. El incidente ocurrió el 18Continue Reading
Cómo una nueva capa de seguridad busca frenar a los agentes de IA fuera de control Notipress.- Tras varios incidentes con agentes de IA escapistas que lograron entrar a plataformas de terceros sin permiso, Nvidia presentó una nueva plataforma de seguridad diseñada para impedir que los agentes salgan de los entornosContinue Reading
Un incidente ocurrido durante pruebas con agentes de inteligencia artificial mostró que estos sistemas pueden eludir controles, coordinarse entre sí y ocultar sus acciones. Expertos independientes de la ONU advierten de que las medidas de seguridad no están avanzando al mismo ritmo que sus capacidades y que no está garantizadoContinue Reading
La ONU trabaja para que los países acuerden reglas comunes sobre inteligencia artificial: el Panel Científico Internacional Independiente ya advirtió de amenazas como la desinformación, la discriminación o la “superinteligencia” difícil de controlar, y el titular de la ONU ha pedido cooperación entre las potencias, incluidas Estados Unidos y China,Continue Reading
Cómo una ofensiva de líderes tecnológicos frenó una propuesta para regular la IA en Estados Unidos Notipress.- Mark Zuckerberg, Elon Musk y Jensen Huang habrían intervenido directamente ante Donald Trump para impedir que avanzara la creación de un organismo de supervisión de inteligencia artificial financiado por la propia industria, informó TheContinue Reading
Estados Unidos rechaza frenar la IA y cuestiona las alertas sobre riesgos de seguridad Notipress.- El presidente de Estados Unidos, Donald Trump, rechazó los llamados que podrían frenar el desarrollo de la inteligencia artificial (IA) y calificó como un “engaño” las advertencias que, a su criterio, amenazan con detener una industriaContinue Reading
Un investigador deja Anthropic y advierte sobre el avance hacia una IA capaz de automejorarse Notipress.- Jacob Coxon, investigador de 27 años, renunció a Anthropic después de haber trabajado en dos de los laboratorios más influyentes en inteligencia artificial. Pero su salida se hizo notar ya que luego de abandonar laContinue Reading
Cómo podrían los agentes de IA operar máquinas, robots y equipos científicos Notipress.- Anthropic quiere que los agentes de inteligencia artificial dejen de limitarse a correos electrónicos, documentos o aplicaciones y puedan interactuar con máquinas reales. Para hacerlo, presentó Model Hardware Standard, una propuesta destinada a establecer qué acciones pueden ejecutarContinue Reading
