A principios de 2019, la inteligencia artificial (IA) generativa empezaba a hacer ruido por su potencial función al ser un asistente de ayuda, desde los coches autónomos hasta los asistentes de voz. Telegram es una de las plataformas de mensajería preferidas gracias a funciones como los bots, que añaden un mundo de herramientas adicionales al servicio. Pese a su utilidad, existe la opción de nudes bots, que generan imágenes de desnudos a partir de fotos normales.
Entre 2022 y 2023, el contenido pornográfico deepfake aumentó en 44,6% y el 99% de ese contenido está protagonizado por mujeres, según un estudio Home Security Heroes. Los deepfakes ya no son una novedad al ser una técnica común de la inteligencia artificial (IA) que da vida a fotografías y vídeos falsos.
La cuestión es que cada vez estos contenidos son más indistinguibles de la realidad y, además, muchas de las herramientas que permiten crearlos están al alcance de cualquier persona. Sin embargo, se plantean preocupaciones éticas debido a su potencial de uso indebido y la manipulación de fotografías no consentidas. A pesar de esto, desde Telegram hay pocos cambios en las operaciones de la plataforma.
Los nudebots de Telegram utilizan algoritmos avanzados de aprendizaje para identificar y eliminar la ropa de las imágenes para generar desnudos falsos. Estos bots ganan popularidad debido a que son fáciles de usar y por la capacidad de crear imágenes de desnudos personalizados y denigrantes.
Qué es un deepfake
Los deepfakes son imágenes, vídeos o audios generados por la inteligencia artificial (IA) que imitan la apariencia o la voz de una persona con una precisión que puede engañar tanto a las personas como a los algoritmos. La creciente accesibilidad de esta tecnología lleva a un uso con fines malintencionados y es creada en tiempo real.
Además, Deep Live Cam es una herramienta popular de IA que permite el reemplazo facial en vídeos con una sola foto. Este se trata de un software de código abierto que abre puertas para crear deepfakes de manera gratuita y funciona en ordenadores de Windows y Mac. La funcionalidad muestra resultados muy convincentes y puede ser usado en un vídeo en directo. Un paso principal es cargar en el programa una foto del rostro que se desea usar para dar paso al deepfake.
El programa será capaz de corregir los defectos que se producen en el proceso, con la finalidad de mejorar el resultado de la salida. La idea inicial de la creación de la aplicación fue ayudar a los artistas con tareas como animar un personaje o usar un personaje como modelo de vestimenta.
Un horror para las mujeres
Se sabe que Telegram ofrece una variedad de nudebots que generan imágenes de desnudos falsos al utilizar algoritmos avanzados. Por ello, estos bots cuentan en total con más de cuatro millones de usuarios mensuales. Esto refleja una magnitud significativa de personas que claramente están usando y creando activamente este tipo de contenido denigrante.
Esta herramienta arruina la vida de la persona, particularmente la de las mujeres que son difamadas públicamente por estos deepfakes tan realistas. Muchas veces se utilizan para hacer chantajes o extorsionarlas.
Cómo funcionan los bots
Un bot con más de 300.000 millones de usuarios mensuales no hace referencia a ningún material explícito en su nombre ni en su página. Sin embargo, una vez que el usuario hace clic para utilizar un bot. Este firma el acuerdo de todas las condiciones y de las 40 opciones de imágenes, muchas de ellas de alto contenido sexual. Ese bot tiene una guía de usuario, alojada en la web fuera de Telegram, que describe cómo crear las imágenes de mayor calidad.
Los desarrolladores de bots pueden exigir a los usuarios que acepten las condiciones del servicio, que puedan prohibir a los usuarios subir imágenes sin el consentimiento de la persona. retratada, pero todo parece que hay poca o nula aplicación de las normas.