Desnudos ante la IA

“Sabíamos que la inteligencia artificial nos iba a dar trabajo”. El caso de Almendralejo, donde una veintena de menores han sido desnudadas con una aplicación, ha confirmado las sospechas de los agentes de la Secretaría General de la Ertzaintza Iker Legardón y Lander Jauregui, que no ocultan su inquietud. “Claro que nos preocupa la inteligencia artificial. En el caso del grooming, un adulto que se hace pasar por un menor para engañarle, antes se hacía escribiendo o utilizando una fakecam, que es un trocito de vídeo donde aparecía un menor. Ahora puede hacer con la inteligencia artificial que su propia cara y su voz se conviertan en las de un niño y esas videollamadas también sean falsas. Y eso sí nos preocupa porque el niño va a ver al otro lado del ordenador a otro menor”, advierte Legardón.

Coordinadores del proyecto para concienciar sobre los peligros de internet en colegios e institutos, donde más de 150 ertzainas voluntarios formados por ellos ofrecen charlas, reconocen los avances que ha propiciado la inteligencia artificial y matizan que, “como con toda tecnología, su mal uso puede ser lo que nos complique. Como es un mundo nuevo asusta, como cuando salió internet”.

Asusta porque, tras los desnudos creados por inteligencia artificial y denunciados meses atrás por la cantante Rosalía y la modelo Laura Escanes, este delito ya ha bajado a pie de instituto en un municipio de Badajoz. Es el “primer caso” y ya ha trascendido otro, con dos menores afectadas, en Alcalá de Henares, aunque en Euskadi “todavía no tenemos ninguno”, dice Legardón. “Ahora, fotos de menores desnudos que hayan circulado, alguna que otra tenemos. Son fotos reales tomadas con engaño, tipo sexting. La cifra no es alarmante. Son poquitos casos, uno o dos cada curso escolar”, detalla y añade que los autores “suelen ser adultos en los casos que nos encontramos en primaria y menores en los de secundaria”.

Los chavales que han creado y difundido los falsos desnudos de las menores de Almendralejo tienen entre 12 y 14 años. Legardón explica que, por su experiencia, a esas edades muchos no son conscientes del alcance ni las repercusiones de sus actos. “Ellos piensan que es un broma y no pasa nada, pero en internet una imagen se vuelve viral en cuestión de segundos. No es una broma. Eso no queda ni siquiera en el ámbito escolar, sale al ámbito mundial. Coger fotografías de menores y difundirlas tiene consecuencias penales”, alerta. De hecho, “uno de los delitos más graves en los que se puede caer es el de pornografía infantil, pero el grooming y el sexting también tienen penas de cárcel”.

Su compañero, Jauregui, coincide en que “se junta un grupito de niños para reírse de otro, hacen fotos, las envían y no son conscientes del daño que están causando ni de los problemas en los que se pueden meter ellos y sus padres”. Por eso agentes de la Ertzaintza ofrecieron en el curso 2021-2022 más de 900 charlas en 197 de centros educativos vascos, para “explicarles de forma sencilla la normativa y la legislación vigente y los delitos o las infracciones administrativas que pueden cometer”.

El objetivo de estas conferencias, que pueden ser preventivas o “cuando ya ha ocurrido un caso”, apuntan, “es quitar víctimas, pero también agresores”. “Sabiendo que tiene una consecuencia grave, esperemos que lo que llaman bromas, que no lo son, disminuyan”, confía Jauregui, mientras Legardón señala que “los autores, en cuanto empezamos a hablar de que es delito, se dan cuenta de la gravedad del asunto, porque hay dos policías vestidos de uniforme allí hablando de lo que ellos han hecho”. También el resto del alumnado debe sentirse interpelado. “Queremos que el resto de la clase, si tienes esas fotos o vídeo, lo pare”, enfatizan.

Las víctimas, “en su mayoría chicas”, les transmiten, cuando se acercan a ellas para tranquilizarlas, “el miedo a que su cara no se vaya nunca de internet”. Su temor no es infundado. “Si se sube a internet, no desaparece nunca. Google puede buscar las fotos con inteligencia artificial y borrarlas, pero ¿quién me dice que mañana otro niño que tiene la foto en su dispositivo no la vuelve a subir?”, advierte Legardón, quien lamenta que las víctimas “tarden meses en contarlo, sobre todo cuando saben que han hecho algo mal, como mandar una foto. Intentan arreglar el problema: Me ha pedido otra foto, se la mando y ya está, pero eso va a más. Por eso les decimos que sean valientes y lo cuenten para evitar que muchas fotos suyas estén rulando por internet toda su vida”.

También les explican cómo detectar a un groomer, “un adulto que, a través de un perfil falso, se hace pasar por un niño o niña y le dice lo que quiere escuchar: Qué guapa eres, qué bien juegas... para ganarse su confianza y exigirle fotos, después vídeos como él quiera, porque ya tiene tu foto y se la puede mandar a tus amigos, e incluso puede llegar a un contacto sexual real por la presión a la que le somete”. Tras relatar el caso de una niña, a la que persuadieron a través de la plataforma de videojuegos en línea Roblox y que llegó a mandar fotos de ella desnuda por Instagram, instan a estar alerta. “Cuando alguien dice que te conoce, pero empieza a preguntarte dónde vives o por tu familia o te hace peticiones extrañas es una señal de alarma”, concluye Jauregui.

Vulnerabilidad de las víctimas

A las damnificadas de Almendralejo, todas menores, esta desgracia les ha pasado en la peor etapa. “Por su edad, el nivel de vulnerabilidad es muy alto. En un momento en el que lo social y la opinión que tengan sus iguales es el vínculo en el que ellas se van a ir construyendo es gravísimo que queden en evidencia por algo que, además, ellas no han hecho, con lo cual se añade ese factor de incontrolabilidad”, explica la psicóloga clínica Karmele Zabala.

Que sus falsos desnudos “puedan seguir en algún disco duro y ser utilizados en el futuro en su contra lo van a vivir como una amenaza que queda en el entorno”, afirma. Una situación que podría derivar, advierte, “en trastornos de ansiedad, depresión, complejos físicos y dificultades de relación con las personas, además de una desconfianza muy grande a todo lo que pueda ser tratar de ser dueñas de su propia intimidad y de dónde le ponen el límite”. “Ya hemos visto las consecuencias que ha tenido el chantaje con fotografías íntimas en personas adultas, que ha podido derivar en casos de suicidio”, recuerda esta profesional del Colegio Oficial de Psicología de Bizkaia, quien señala que el haber sufrido este “atropello” junto a otras menores “de alguna manera ayuda a amortiguar”. En este sentido, apela “al resto de compañeros a que recrimine y rechace el comportamiento de los agresores y proteja y ponga en valor la valentía de las víctimas”.

Respecto a los autores, sostiene que “no hay que hacer una culpabilización de estos niños concretos, que son de alguna manera víctimas de una sociedad patriarcal, machista y desigual, en la cual ellos están viviendo una normalidad en agredir a unas compañeras. Está pasando un poco el efecto Rubiales, ni siquiera son conscientes de lo que están haciendo”, compara y alude a su falta de conciencia digital. “Como no están educados en el uso de las redes tienen la falsa sensación de impunidad, de que hagan lo que hagan es anónimo y no es así”, dice.

Incorporar la Ética en las aulas

A raíz de lo ocurrido con las menores de Almendralejo, la consultora en internet y herramientas digitales Ane Martínez insiste en “la necesidad de volver a incorporar la Ética de manera más temprana y adecuada al momento vital del alumnado en el sistema educativo”, donde se han primado “las formaciones de base tecnológica, restando horas de formación a la creación y fomento de un espíritu crítico y ahora, con la irrupción de la inteligencia artificial en nuestra cotidianidad, nos echamos las manos a la cabeza”.

Esta experta en ciberseguridad considera que se debe “acompañar toda investigación tecnológica de la ética y un marco normativo claro tanto en el momento de crear nuevos algoritmos y plataformas como en el consumo de las mismas. Quedaría cojo un planteamiento en el que solo quienes desarrollan pongan límites éticos a sus productos si quienes lo consumimos al otro lado nos intentamos saltar todo tipo de restricciones”, reconoce.

Tras censurar “la violencia machista de la estructura sobre unas jóvenes cosificadas”, insta a “trabajar en las aulas el respeto, la empatía y el control de impulsos” y pronostica nuevos casos dado que “hay mucho morbo entre adultos y poco espíritu crítico entre los adolescentes”.

Los montajes han existido siempre, pero la inteligencia artificial ha añadido nuevos riesgos, “basados, sobre todo, en el alto nivel de realismo que pueden generar los algoritmos. Además, estas creaciones se realizan y difunden en minutos ya que las redes sociales tienen ese poder de difusión sin contraste y con cada vez mayores dificultades para verificar su autenticidad”, advierte.

Partidaria de “tomar medidas legales” contra este tipo de aplicaciones “para proteger la privacidad de las personas y legislar sobre la difusión de contenidos no consentidos”, considera “fundamental la unión de las madres y adolescentes en una protesta común, evidenciando que quien denuncia no está sola”.