Inicio Noticias Ciencia y tecnología Principales problemas en la evolución de la IA según mujeres en esta...

Principales problemas en la evolución de la IA según mujeres en esta industria

82

Existe una falta de atención a valores éticos en el desarrollo de IA

Notipress.- Tras la poca presencia de mujeres citadas en equipos de inteligencia artificial (IA), el medio estadounidense TechCrunch realizó entrevistas a mujeres en el mundo de la IA para conocer su perspectiva en esta industria. Las entrevistadas comentaron los principales problemas que a los que se enfrente la IA en su evolución.

Irene Solaiman, jefa de política global de Hugging Face, comunidad de IA y ciencia especializada en aprendizaje automático, destacó que el principal problema que enfrenta la IA en su evolución es la seguridad. “Las prioridades de seguridad y nuestras definiciones de capacidad difieren regionalmente, como una mayor amenaza de ciberataques a la infraestructura crítica en economías más digitalizadas”, declaró Solaiman.

Por su parte, Sarah Kreps, profesora de gobierno en Cornell, subrayó que el problema más creciente en la IA es la falta de atención a cuestiones sobre valores éticos y sociales. Kreps indicó que esta desatención puede llevar a resultados problemáticos y a un impacto negativo en la sociedad, otorgando un poder considerable a las grandes empresas de tecnología en el proceso.

Asimismo, Kreps destacó: “Esos temas no son de la variedad de riesgo existencial, sino que crean el tejido de la sociedad y confieren un poder considerable a las grandes empresas (OpenAI, Google, Meta, et.) que son responsables de esos modelos.

“La IA debería aumentar las capacidades humanas en lugar de reemplazarlas”, comentó Heidy Khlaaf, directora de ingeniería de seguridad de Trail of Bits, firma de ciberseguridad. “Estamos siendo testigos de un completo desprecio de los peligros y los modos de fracaso de la IA que están llevando a un daño tangible real”, agregó Khlaaf.

Del mismo modo, Khlaaf citó un caso en Chicago, Estados Unidos, en el que un ShotsPotter alertó a la policía de una serie de disparos. Uno de los oficiales disparó en dirección de un niño que en realidad se encontraba encendiendo fuegos artificiales. ShotsPotter es un sistema de IA especializado en la localización de disparos de armas de fuego.