Experta informática avisa: adoptar la IA ha ido mucho más rápido que su alfabetización

Concha Tejerina

València, 14 nov (EFE).- La inteligencia artificial (IA) ha irrumpido en la vida cotidiana a una velocidad muy superior a la capacidad para comprender sus riesgos y, según Elena del Val, experta en esta tecnología, no es "por falta de interés" sino porque "la adopción ha ido mucho más rápido que la alfabetización".

En una entrevista con EFE, esta profesora titular de la Escuela Técnica Superior de Ingeniería Informática de la Universitat Politècnica de València (UPV) indica que "por primera vez" los adolescentes no van por delante de los adultos: "Los padres y madres conocen la IA generativa en la misma medida que sus hijos, así que es difícil acompañar en algo que uno mismo está descubriendo".

Según Del Val, la "mejor cara" de la IA es su "capacidad de ayudar a explicar, resumir, traducir, acompañar en el aprendizaje y facilitar tareas", pero su "peor cara" es que "de una forma muy natural, a través de conversaciones, y sin darnos cuenta, podemos proporcionar datos o información personal que no es necesaria para llevar a cabo la tarea que estemos realizando".

"En las redes sociales el riesgo estaba en lo que publicábamos; con la IA generativa está en lo que conversamos. Un chatbot de IA generativa repregunta, muestra empatía y deduce datos que nunca le hemos dado de forma explícita", alerta.

Según Elena del Val, la IA generativa "ha abaratado enormemente la creación de contenido falso verosímil" y ahora "se pueden generar en minutos imágenes, voces y vídeos que antes requerían medios profesionales".

Pero advierte de que hay "otro riesgo más silencioso y menos visible: lo que cada uno de nosotros cuenta a un chatbot en una conversación privada y dónde acaban esos datos". "Ese riesgo no deja huella", avisa.

Uno de los riesgos que más le preocupa es lo que define como el "riesgo fantasma" y explica que en una investigación en curso realizada con adolescentes de entre 10 y 16 años de España, Alemania y Reino Unido, se observó que cuanto más compartían los jóvenes con un chatbot, menos preocupados estaban por su privacidad, "no porque estén más seguros, sino porque el riesgo no se ve".

Otro de los riesgos de la IA es la "persuasión empática", según Del Val, que indica que en un experimento publicado en USENIX Security, un formulario conseguía que el 24 % de las personas diera datos personales y un chatbot diseñado para obtenerlos, más del 90 %. El chatbot, con una estrategia empática, obtenía datos verdaderos sin levantar sospechas.

Preguntada por casos como el de 'Blocus', que usa IA generativa para crear mensajes que alentaban discursos, o el de algunos partidos políticos que usan imágenes o voces que no son reales en contra del adversario político, la profesora titular de la UPV señala que esta IA "actúa como amplificador".

"Abarata y facilita la producción de mensajes manipulados, y los hace más personalizados y verosímiles. Las redes sociales, cuyo diseño premia lo que genera reacción, son el terreno donde ese contenido se multiplica", explica para añadir que no cree que "estemos condenados a convivir con ello sin más"

Preguntada por si cree que estamos perdiendo capacidad de pensamiento crítico al delegar cada vez más tareas y decisiones en las máquinas, afirma que el "riesgo existe si delegamos sin revisar: la IA es una buena herramienta para pensar si la usamos para contrastar, pedir otra perspectiva o entender algo, pero juega en contra si la usamos para dejar de pensar".

Considera que su uso como confidente o “psicólogo” merece una "atención especial", y tras indicar que los datos confirman que muchos adolescentes hablan con un chatbot de cómo se sienten antes que con su familia o sus amistades, subraya que el problema es doble: un chatbot no es un profesional y puede fallar en momentos críticos, y esa intimidad hace que se cuenten cosas muy sensibles a una empresa que está detrás del chatbot, no a una persona sujeta a secreto profesional. EFE