La capacidad de distinguir y reconocer lo que es real en vídeos, imágenes, audios y contenidos escritos cobran cada día más relevancia. Y ni qué decir de los modelos de lenguajes avanzados, capaces de crear múltiples contenidos digitales más difíciles de identificar. Desde la aparición de los modelos de lenguaje como Chat GPT, una de las grandes preocupaciones que surgió en cuanto a la autenticidad ha sido que muchas personas hagan pasar la elaboración de la Inteligencia Artificial (IA) por trabajos propios. Algo que en realidad ha sido producido por un algoritmo y que cobra relevancia en el área educativa y de investigación.
Este mes, Google anunció la prueba de su tecnología capaz de insertar marcas de agua SynthID, generado por su herramienta de Inteligencia Artificial. Invisible a todo ojo humano, en cualquier tipo de contenido dado. Incluso en Gemini IA, que se caracteriza por ser un modelo multimodal que entiende varios tipos de información: textos escritos que describen a las imágenes, audio, y código de programación. Estas herramientas permiten identificar si parte de él fue producido por esta tecnología para comprobar así su autenticidad mediante un software.
Google ha puesto a prueba la detectabilidad de estas marcas de agua y ha encontrado una mejoría en el algoritmo. El éxito de la detección depende en gran medida de lo cerrado de la respuesta. Es decir, si la pregunta que hacemos a la IA es concreta, el sistema responde del mismo. Por tanto, la marca de agua no altera el texto y no podrá detectar su origen artificial. No obstante, si la pregunta es extensa, mayor será la habilidad del sistema para identificar, con tasas altas a un 90%. A continuación, te contamos más sobre esta herramienta y cómo usarla.
Cómo funciona la marca de agua de SynthID
El funcionamiento del sistema de marca de agua está disponible de forma gratuita para todos los desarrolladores que integren los modelos de lenguaje generativo IA. Entonces, de manera simple y sencilla responde a la consulta de un usuario. SynthID predice cuál es el resultado de acuerdo a la solicitud: cada palabra que escribas será un valor de probabilidad que el modelo asignará.
Si pides que complete una frase “Tengo una mascota”, la palabra “perro” o “gato” tendrá una probabilidad alta, mientras que “cocodrilo” tendrá un valor menor. El objetivo de Google es crear aplicaciones de IA más seguras. Aunque la implementación de esta escala resulte innovadora, existe la alternativa de que el usuario edite las respuestas dadas para evitar la marca de agua de probabilidad.
SynthID y el futuro de la verificación de contenido
Esta tecnología marca desde ya un avance en la verificación de contenido IA. Al ser un sistema global que permite a los usuarios, empresas y gobiernos trabajar juntos para la transparencia y reducir la desinformación. En este caso, para convertirse en la solución de verificación de contenido deberá superar su independencia con un modelo único de Inteligencia Artificial.
Limitaciones y desafíos de SynthID
Actualmente tiene una restricción hacia otros modelos de generación de IA como Midjourney, Stable Diffusion y Dall-e. Esto significa que, aunque SynthID pueda identificar contenido generado por imagen, no tiene la capacidad de identificar contenidos provenientes de otros modelos ajenos de IA. Además, la implantación de SynthID plantea ciertos dilemas como la privacidad de usuario en la base de datos de Google.
SynthID no es una solución completa para el contenido de la IA
La Inteligencia Artificial ha transformado nuestras vidas en la última década, cambiando la forma en que interactuamos con la información, la comunicación y el entretenimiento. No obstante, este crecimiento da preocupaciones acerca de la autenticidad de contenidos generados por la IA. Aunque SynthID promete una marca de agua resistente existe un riesgo que corren de las manipulaciones digitales y de que se generen escenarios en los que puedan falsificar o suplantar.
Este caso es previsible de acuerdo al estudio que realizó Google, donde lograron sustraer un patrón de marca digital similar a SynthID. Si bien la tecnología de incrustación es sofisticada, la historia dirá si este sistema es capaz de resistir intentos de manipulación avanzada en un entorno en constante innovación.