Ojo con Google, mezcla fotos de reales de setas con otras creadas por IA y ofrece falsas y peligrosas identificaciones

Tendemos a creer que la inteligencia artificial (IA) es prácticamente infalible, que es capaz de solucinarnos prácticamente cualquier duda o cuestión, excepto la de los números de los sorteos de lotería en casi todas sus modalidades. Por eso es cada vez más habitual recurrir a ella como un paso más allá del hasta ahora recurrente Google. Y este, para no quedarse atrás ha incorporado la IA para mejorar sus propias búsquedas.

Pero resulta que las IA de vez en cuando tienen sus alucinaciones, cometen errores y ofrecen respuestas extrañas o equivocadas. Este es un tema delicado que la mayor parte de las veces se corrige con un mejor entrenamiento utilizando datos de calidad.

La falsa seta de tinta que ha creado Freepik con IA y Google ha dado por buena.

Esa seta no existe

Estas alucinaciones, que es como llaman a los errores de las IA, en ocasiones pueden ser muy graves. No ya cuando hablamos de temas sanitarios que implican diagnósticos y medicaciones y sus consecuencias pueden ser como poco delicadas, sino también en otros campos quizá más lúdicos como la afición a las setas y a su recolección se han dado graves errores que lleven a identificaciones erróneas que pueden acabar muy mal.

La alarma la han dado en un hilo dedicado a la micología, al estudio de las setas en el sitio web Reddit. El moderador del subreddit r/mycology, conocido por el nick MycoMutant advirtió que buscando imágenes de una seta concreta, de la seta barbuda o seta de tinta (Coprinus comatus) encontró que la primera imagen que le dio el buscador Google de esa seta no solo no era la que buscaba (algo relativamente normal por un problema de indexación) es que ni siquiera era una seta real. Simplemente era una imagen de una seta creada por inteligencia artificial.

Pero lo más curioso es que esa imagen no estaba creada por la propia IA de Google, sino que el famoso buscador la había encontrado en el banco de imágenes Freepik y la había dado por buena a pesar de que desde punto de origen ya se identificaba esa seta, esa foto como creada por inteligencia artificial.

MycoMutant, que se toma muy en serio su labor de ayuda a otros aficionados a identificar correctamente todo tipo de setas y hongos, indicó cómo llevaba tiempo viendo cómo en ciertas especies de setas había pasado lo mismo.

A la izquierda, la auténtica 'Coprinus comatus ', ala derecha ña receración de Freepik. NTM

No es el único caso

También se ha conocido otro caso en el que el buscados malinterpretó una imagen de una amanita concreta, una seta que si es ingerida puede provocar la muerte en segundos y sin síntomas previos. Se trataba de una Amanita viriosa, uno de cuyos nombres comunes más descriptivo es ángel destructor, y que confundió con otras especies. La consulta la hizo un usuario preguntando qué setas silvestres son comestibles y entre las comestibles y confundiéndola con una seta globo (Calbovista subsculpta) y aconsejando que había que buscar setas de carne blanca y firme. Muchas setas responden a esta descripción y no son comestibles.

Según comenta MycoMutant, el problema se agudiza cuando tras el uso de estas imágenes por Google, la reputación de las mismas sube y otros bots, otros buscadores se fían de Google y acaban difundiendo estas fotos y esta información como real siendo en realidad muy peligrosa. En concreto explica que “en más de una ocasión he visto a gente intentar utilizar bots para recopilar información de una base de datos de especies de setas y los resultados han sido terriblemente inexactos y potencialmente llenos de información peligrosamente errónea”.

Otros voces de expertos se unen a la crítica y aviso dado MycoMutant. Así, Elan Trybuuch, secretario de la Sociedad Micológica de Nueva York, fue más allá, y para estos casos en los que las consecuencias de una identificación errónea puede tener funestas consecuencias, Google no solo debería limitarse a marcar esas imágenes como generadas por IA, sino que debería borrarlas definitivamente.

Google reacciona

Cierto es que estos casos, desde los servicios técnicos de Google han reaccionado. La compañía es consciente de estos problemas y ha declarado que ha introducido “más de una docena de mejoras técnicas” en sus sistemas de inteligencia artificial después de que se descubriera que su motor de búsqueda mostraba información errónea. Liz Reid, directora de la división de búsquedas de Google, reconoció que “ciertamente aparecieron algunos resúmenes de IA extraños, imprecisos o poco útiles”.

Una de las soluciones para evitar los problemas con las alucinaciones de la IA es someter sus respuestas a un control humano. Algo que los aficionados ocasionales a recoger setas procuran hacer, buscar el asesoramiento de expertos micólogos.

O en su defecto utilizar una buena guía de campo de autores expertos conocidos y publicada por editoriales de reconocido prestigio y sede conocida. Esto también es importante, se han empezado a ver libros-guía de setas elaborados por inteligencia artificial que se venden por internet y de una más que dudosa calidad técnica.