Expertos advierten de los riesgos de la IA usada en la ciberdelincuencia y las campañas de "manipulación social"

Los expertos en Inteligencia Artificial (IA) presentes en la 32 Euskal Encounter que se celebra en el BEC de Barakaldo (Bizkaia) han analizado las "inmensas potencialidades" de esta tecnología, pero también los riesgos que implica su uso, al haberse convertido en "una herramienta poderosísima al alcance de la ciberdelincuencia y de las campañas de manipulación social", según han destacado los organizadores del evento tecnológico.

Aunque eliminar estos riesgos a corto plazo se "antoja imposible, sí existe coincidencia en la necesidad de limitarlos a través de la regulación legal y la formación de los usuarios", según los expertos que han participado en la jornada de este sábado en la Euskal Encounter, organizada por Euskaltel Fundazioa y patrocinada por Euskaltel, Gobierno vasco a través de SPRI, Diputación foral de Bizkaia y BBK.

Juan Luis López Aranguren, investigador en un proyecto de Inteligencia Artificial y Sistemas Autónomos Cognitivos en Japón, ha explicado que la IA supone "la cuarta revolución industrial, y como en todas las anteriores, será necesario adaptar un gran número de puestos de trabajo a las nuevas necesidades".

Ha destacado la importancia de la formación, porque, según ha dicho, "se están incrementando las oportunidades laborales relacionadas con la robótica, la programación y comunicación y la supervisión de máquinas".

Entre los sectores que pueden verse más afectados, ha citado la movilidad, con la llegada de los coches autónomos y la consiguiente opción de alquilar vehículos únicamente por trayectos, "lo que hará innecesario que cada persona tenga uno en propiedad".

Otros de los expertos presentes en la Euskal Encounter han citado también otras áreas que sufrirán grandes cambios, como la industria, la seguridad, la salud y el sistema educativo.

En todos estos casos, han apuntado, "se vislumbra un proceso de integración de esta nueva herramienta, no un proceso de pérdida directa de puestos de trabajo". Sin embargo, han advertido, "existe también consenso sobre los riesgos que entraña este formidable avance tecnológico".

Juan Luis Pedreño, doctor en Neurotecnología, Inteligencia Artificial y robótica inteligente y portavoz de Inteligencia Artificial en el Congreso de los Diputados, ha recordado que hace apenas unos días se ha aprobado una ley de IA en la UE, "de aplicación directa en todos los países".

Esta normativa, ha precisado, clasifica los distintos niveles de peligrosidad de los sistemas de IA, desde "inaceptable", por suponer riesgo para las personas (como por ejemplo manipulación cognitiva, puntuación social, sistemas de identificación biométrica en tiempo real), hasta los de "riesgo nulo". En todos los casos, la validación de estos sistemas será humana, ha remarcado.

Con todo, ha añadido, la propia norma incluye una cláusula que prevé su actualización en cinco años. Pedreño ha admitido que es un plazo "muy largo comparado con el desarrollo exponencial de esta tecnología", y ha apelado a "regulaciones anexas en cada país para evitar riesgos específicos, como por ejemplo la suplantación de identidad masiva utilizando Inteligencia Artificial". Para David Martín Barrios, desarrollador de software experto en Inteligencia Artificial, es "imprescindible asumir que esta poderosa herramienta es accesible también para quienes tienen intenciones maliciosas, ya que permite generar desinformación, influir en la toma de decisiones y anular el pensamiento crítico".

Como alternativa, y ante "la utopía de crear una entidad verificadora imparcial", ha propuesto la formación de la sociedad sobre "cómo contrastar la información que recibimos con fuentes fiables". Por su parte, Mikel Garcia de Andoin Bolaño, experto de la UPV/EHU y Tecnalia, ha destacado que el crecimiento exponencial del desarrollo de la Inteligencia Artificial "no es sostenible en el tiempo, lo que obliga a encontrar un nuevo avance para evitar incrementar el consumo de recursos". Al mismo tiempo, ha incidido en la convergencia entre la IA y la computación cuántica, que podría aportar mejores soluciones en ambos campos.

Talento

La presente edición de la Euskal Encounter está realizando una especial apuesta por la gestión del talento y, en esa línea, ha creado un Talent Corner en la Opengune, la zona abierta al público.

En este punto se orienta sobre las posibilidades de utilizar la tecnología para desarrollar el talento personal y sobre oportunidades de trabajo, tanto para participantes en la lanparty como para los visitantes que se acerquen en busca de información, según han explicado los organizadores.

Julieta Reynoso Borrajo, de BBK Bootcamps powered by The Bridge, ha aludido al "desafío que supone para las empresas captar el talento que necesitan, en un mundo con tecnologías emergentes y en pleno desarrollo".

Por ello, señalado la necesidad de "dialogar con las nuevas generaciones, que tienen una filosofía diferente y que valoran, además de horario y sueldo, los proyectos a los que podrían sumarse, la posibilidad del teletrabajo o la formación que van a recibir". "Ya no preguntan por el qué, sino que también quieren saber el cómo", ha indicado.

Además, ha aconsejado a las personas en búsqueda activa de empleo que sean conscientes de las necesidades del mercado a la hora de completar su formación, "pero siempre desde el autoconocimiento de sus propias capacidades y las experiencias acumuladas".