Expertos creen que la IA agentiva puede aumentar los riesgos de la privacidad o mejorarla

València, 23 abr (EFE).- Expertos internacionales del ámbito de la regulación, seguridad e investigación sobre privacidad han destacado la doble vertiente de la inteligencia artificial (IA) agentiva (toma decisiones y ejecuta acciones sin supervisión constante), que puede aumentar los riesgos de la privacidad o mejorarla con asistentes personales.

Esta es una de las conclusiones destacadas de la mesa de debate "Seguridad y privacidad en la IA" celebrada en el marco del taller SPRINT sobre seguridad y privacidad en inteligencia artificial que se centra en los retos relacionados con la seguridad y privacidad de IA, con especial atención en los sistemas de IA generativa e IA agentiva, tanto desde una perspectiva de sistemas como centrada en las personas, ha informado la organización.

Por un lado, los agentes autónomos pueden aumentar los riesgos de la privacidad, con el fomento del exceso de intercambio de información, y actuar sin que el usuario sea plenamente consciente de ello al difuminar los límites legales, pero por otro, pueden convertirse en una herramienta que mejore la privacidad al actuar con asistentes personales que ayuden a navegar por políticas complejas de privacidad y a gestionar permisos.

El taller ha sido organizado por el Laboratorio de Seguridad, ética y Privacidad de la IA Centrada en el Ser Humano (HASP) de INGENIO (CSIC-UPV) y el Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN) de la Universitat Politècnica de València (UPV) en el marco del proyecto “SPRINT: Seguridad y Privacidad en Sistemas con Inteligencia Artificial”.

Parte del convenio entre INCIBE y la UPV incluido en los Proyectos Estratégicos en España, en el marco del Plan de Recuperación, Transformación y Resiliencia y tiene financiación de los Fondos Next Generation-EU.

En la mesa han participado el catedrático de Informática de la Universitat Rovira i Virgili de Tarragona, Josep Domingo-Ferrer, la catedrática de informática de la Universidad Karstad y de la Universidad Tecnológica de Chalmers (Suecia), Simone Fischer-Hübner; el adjunto al director de Innovación y Tecnología de la Agencia Española de Protección de Datos, Daniel Mercader, y la profesora asociada del King´s College de Londres, Ruba Abu-Salma.

Otro de los aspectos destacados se ha centrado en cómo los riesgos para la privacidad de la IA ya no se refieren principalmente a los datos de entrenamiento, sino a los de interacción.

Aunque las investigaciones sugieren que los modelos de aprendizaje automáticos modernos y bien diseñados tienen en cuenta estas características y son relativamente robustos frente a los ataques tradicionales a la privacidad durante su entrenamiento, los sistemas de IA generativa introducen una nueva capa de riesgo ya que procesan continuamente y pueden aprender de los datos introducidos por los usuarios en tiempo real.

El panorama actual de las amenazas se transforma de forma sustancial, ya que los usuarios ya no son meros sujetos que proporcionan datos, sino que se convierten en contribuyentes activos de datos sensibles durante su uso. Y no llegan a entender del todo cómo esos datos pueden reutilizarse, conservarse o influir en sistemas futuros.

También han puesto el foco en que autoridades como la Agencia Española de Protección de datos ya observa que las empresas están adoptando este tipo de tecnologías sin llegar a comprender plenamente los riesgos asociados.

Las actuaciones se encaminan a garantizar una adopción informada y respaldada por nuevas directrices, como los recientes libros blancos de implementación segura. EFE.