Cuando a la inteligencia artificial se le va la cabeza

Desde que hace un par de años despegara el uso de aplicaciones de inteligencia artificial (IA), encabezada por la generativa ChatGPT, son muchos los que hacen uso de ella con notable éxito en muchos campos.

Pronto surgieron los miedos de hasta dónde puede llegar y se habló de sustitución de humanos por máquinas. Incluso de una futura rebelión de las máquinas al modo de la película Terminator.

Pero pronto los usuarios se dieron cuenta de un problema más real y peligroso: la IA puede alucinar.

Una mujer crea una imagen utilizando un programa de inteligencia artificial generativa. Freepik

Qué es una alucinación

En el caso de la IA, se habla de que ha sufrido una alucinación cuando da una respuesta incorrecta o engañosa, tanto en su totalidad como parcial. En algunos casos resultará, cuando menos, pintoresca y en otros gravemente errónea, como puede ser a la hora interpretar una prueba médica.

Las diferentes IA se entrenan con datos y con ellos aprenden a dar respuestas buscando patrones en la información que se les ofrece. Pero estos resultados dependen mucho de la calidad y la exactitud del material suministrado durante su entrenamiento.

Si se le ha dado una cantidad insuficiente de datos o tienen un sesgo (intencionado o no) que no le permite identificar con suficiente precisión un patrón, sus respuestas pueden ser muy problemáticas o incoherentes. Alucinadas.

Igualmente puede haber una falta de fundamentación en el modelo utilizado, lo que hará que la respuesta, aunque pareciendo razonable y razonada, en realidad sea un sinsentido o irrelevante.

Finalmente, una tercera causa puede ser que durante el entrenamiento y aprendizaje no se le haya limitado la cantidad de resultados que puede predecir, lo que causaría que algunas de sus predicciones puedan ser muy extremas.

Cómo se puede evitar

La mejor manera de impedir que a tu aplicación de IA le dé por flipar es la prevención. Estas son algunas medidas que podemos tomar para trabajar con ellas y den respuestas sin que se les vaya la cabeza:

• Utilizar datos de entrenamiento de calidad. Los modelos de IA generativa se basan en los datos de entrada para completar su tarea. Su calidad y relevancia marcarán el comportamiento del modelo y la calidad de sus respuestas. Por ello deben ser diversos, equilibrados y bien estructurados. Evitará el sesgo de la respuesta y comprenderá mejor la tarea encomendada.

• Definir el propósito del modelo de IA. Saber de forma detallada el uso y el alcance de la IA ayudará a reducir las alucinaciones. Hay que tener claras sus características y conocer sus limitaciones y cualidades, algo que ayudará al sistema a ser eficaz y reducir las respuestas innecesarias.
• Una buena plantilla de datos. Las plantillas de datos proporcionan un formato predefinido, lo que aumenta la probabilidad de que la IA genere resultados ajustados a las directrices prescritas. Estas plantillas garantizan la coherencia de las respuestas y su calidad.
• Limitar las respuestas. Las IA necesitan ciertas restricciones que limiten los posibles resultados. Para ello, para mejorar la coherencia y la precisión de los resultados, conviene utilizar herramientas de filtrado y umbrales probabilísticos claros.
• Probar y mejorar el sistema. Probar rigurosamente la IA antes de usarla es vital, igual que testarlo con regularidad. De esta forma mejora su rendimiento al volver a entrenar a la IA con nuevos datos.
• El factor humano. Un humano debe revisar la respuesta para asegurarse de que es la que buscamos. Es necesario un filtro de verificación que evalúe el resultado.

Pero no siempre es malo

A pesar de que estas alucinaciones de la inteligencia artificial son un fallo, también es cierto que en ocasiones pueden tener un potencial creativo en algunos campos.

Arte y diseño. La alucinación de la IA puede ofrecer nuevas perspectivas a la hora de que artistas y diseñadores generen imágenes más espectaculares, imaginativas, surrealistas u oníricas que lleven a nuevas formas y estilos.

Visualización e interpretación de datos. Una alucinación de la IA puede ayudar a visualizar datos al exponer nuevas conexiones y dar con nuevos enfoques o perspectivas alternativas sobre información compleja. Esto puede ser muy valioso en el mundo de las finanzas, donde muestra tendencias complejas y datos financieros para análisis de riesgos más matizados.

Juegos y realidad virtual. Puede mejorar experiencias inmersivas en juegos y en realidades virtuales, ayudando a los desarrolladores a crear nuevos mundos y llevar la experiencia del usuario a otros niveles. Añade un elemento de sorpresa e imprevisibilidad en el juego.