La falta de mujeres en el diseño de las IA refuerza los sesgos de género y la violencia machista digital

Actualizado hace 23 segundos

Son numerosas las organizaciones internacionales, universidades y asociaciones que denuncian y advierten que el desarrollo de la inteligencia artificial se encuentra mayoritariamente en manos de desarrolladores y diseñadores hombres. Según explican diversos expertos, es infrarrepresentación femenina puede hacer que se perpetúen estereotipos machistas y de esta manera abrir la puerta a nuevas formas de violencia digital contra las mujeres.

"La IA la están diseñando básicamente hombres blancos, con las consecuencias de falta de diversidad que eso implica", advierte la subdirectora de la UNESCO Gabriela Ramos, en declaraciones recogidas por la agencia Efe y cuya institución ha cuantificado en menos del 20% el número de mujeres que trabajan en las grandes compañías de diseño y entrenamiento de los algoritmos y nuevas herramientas relacionadas con la inteligencia artificial.

Pocas mujeres trabajan en las grandes compañías de diseño y nuevas herramientas. Freepik

Para Aura Fernández, profesora de Ciencias de la Computación de la Universidad Autónoma de Barcelona (UAB), el problema va un poco más allá a la diseñen más hombres, sino que estos no tengan una perspectiva de género a la hora de hacerlo. "La tecnología en general tiene a más profesionales masculinos y la IA no va a esperar a la igualdad. Los hombres también deberían velar por ella", advierte. Y no se muestra muy optimista en un futuro próximo. Apunta que, teniendo en cuenta la revolución que significa la IA y el peso que tendrá en el desarrollo y aprendizaje sobre el mundo de niños y adolescentes, resulta una "oportunidad perdida para la igualdad" que deberá compensarse con un refuerzo de la educación.

Sesgos de género en los algoritmos

Por su parte, Zynnia del Villar, directora de Ciencia de Datos del laboratorio de ideas Data-Pop Alliance, realcionado con la Universidad de Harvard y el MIT, explica que la falta de diversidad en los equipos que diseñan IA tiene impactos importantes en el presente y puede tener consecuencias "graves" en el futuro. Lo ejemplifica con el caso de Amazon, que “tuvo que retirar su sistema de reclutamiento basado en IA porque .. A ello une el ejemplo de asistentes virtuales como Siri o Alexa, que “han sido programados con respuestas sumisas ante comentarios sexistas, reforzando estereotipos de género".

Asimismo, Del Villar apunta que, al ser diseñadas mayormente por hombres, las inteligencias artificiales pueden no reflejar perspectivas femeninas en áreas clave como salud, seguridad y economía, sesgos que se quieren revertir desde hace años en el mundo off-line.

Un dibujo peligroso para las futuras generaciones

Desde la facultad de Psicología de la Universidad Abierta de Cataluña (UOC), Ferran Marsa recuerda el reciente golpe de realidad extendido por la investidura del presidente de EEUU, Donald Trump, y la fotografía de magnates tecnológicos que le acompañaban, todos hombres. "La IA es una tecnología actualmente de hombres para hombres, y eso es muy peligroso para los adultos y más aún para las futuras generaciones", ha explicado Marsa.

El director ejecutivo de Meta, Mark Zuckerberg; el empresario Jeff Bezos, el director ejecutivo de Alphabet, Sundar Pichai, y el empresario Elon Musk en la toma de posesión como presidente de Donald Trump el pasado 20 de enero. Las dos mujeres de blanco son Priscilla Chan, esposa de Zuckelberg, y Lauren Sanchez, de Bezos. Europa Press

En ese sentido, la IA estaría "multiplicando la capacidad" de crear contenidos de violencia machista digital contra las mujeres, con ejemplos como los deepfakes, montajes fotográficos hiperrealistas que permiten poner un cuerpo desnudo a una imagen del rostro de una conocida, una forma de agresión que sufren especialmente adolescentes en los chats de alumnos.

En una búsqueda sencilla de "Mujeres en la IA", de hecho, no aparecen profesionales que desarrollan su carrera en esta tecnología, sino varias páginas de resultados en el buscador de programas generadores de imágenes de cuerpos femeninos. "Casi todo lo que tiene que ver con las mujeres en la IA tiene que ver con la cosificación y el sexo, con las consecuencias que eso conlleva", añade Marsa.

Europa, sola en la regulación de la IA

La eurodiputada de la Comisión de Mercado Interior y Protección al consumidor del Parlamento Europeo Laura Ballarín (PSOE) ha explicado a Efe que desde la Eurocámara existe "preocupación" ante una incorporación de la IA, como gran revolución del siglo, que siga manteniendo y ampliando "los sesgos de género que llevan acumulándose durante siglos de patriarcado".

Ballarín, que ha sufrido la persecución de la machoesfera y se encaró con los eurodiputados de extrema derecha al mostrarse tajante contra el magnate Elon Musk y su posible saludo nazi, ha recordado que "la UE está liderando el esfuerzo para regular el impacto de la IA en derechos humanos" con una normativa que incluye controles de transparencia, auditorías de sesgo y restricciones en sistemas de vigilancia masiva. Con todo, desde Data-Pop Alliance se muestran pesimistas sobre que la ola regulatoria de la IA vaya más allá de las fronteras comunitarias, pues China y EEUU se encuentran en plena batalla por dominar con sus herramientas de IA el mercado mundial.