Once empresas someten sistemas de IA de alto riesgo al primer 'banco de pruebas' español

Madrid,14 oct (EFE).- El primer 'banco de pruebas' (sandbox) español de inteligencia artificial ha analizado durante más de un año once sistemas de alto riesgo para comprobar si estaban alineados con el Reglamento Europeo de IA y ha identificado cuáles son los retos que van a tener las empresas y las organizaciones que quieran usar este tipo de modelos.

Las principales lecciones extraídas de ese primer entorno de pruebas de inteligencia artificial se han plasmado en un informe elaborado y publicado por la Secretaria de Estado de Digitalización e Inteligencia Artificial, una iniciativa pionera en Europa y que ha permitido trasladar a la práctica las obligaciones que están previstas en el Reglamento Europeo de IA para los sistemas de inteligencia artificial que están catalogados de 'alto riesgo'.

Los once sistemas de inteligencia artificial sometidos a pruebas pertenecen a sectores como productos sanitarios, biometría, empleo, acceso a servicios, maquinaria e infraestructuras críticas, y durante más de un año el 'banco de pruebas' ha trabajado para validar si esas tecnologías se ajustaban a los requisitos regulatorios europeos.

Su conclusión principal: que el principal desafío que van a tener las empresas y organizaciones para cumplir el reglamento europeo no es comprender la regulación, sino traducirla en procedimientos internos y en mecanismos efectivos de control y de gobernanza.

Este entorno controlado de pruebas ha permitido también concluir que el esfuerzo necesario para adaptarse al Reglamento europeo depende más de la complejidad y la madurez del sistema de IA que se use que del tamaño de la organización que lo está utilizando. 

El informe que ha publicado el Ministerio para la Transformación Digital y de la Función Pública ha identificado las áreas que han resultado más exigentes para las entidades que han participado en el 'examen', y señala entre esas la gestión de los riesgos, la gobernanza de los datos que usan los sistemas, la supervisión humana, la documentación técnica, la gestión de incidentes o la vigilancia posterior a la comercialización. 

Destaca además el informe, al que ha tenido acceso EFE, la importancia de incorporar modelos de seguimiento continuo y de reforzar la coordinación entre empresas, personas expertas, las administraciones públicas y las futuras autoridades supervisoras. 

El Reglamento Europeo, en gran parte ya en vigor aunque se implementará de forma escalonada hasta 2028, es el primer marco regulatorio integral del mundo para la IA, pretende equilibrar la innovación y el uso de estas tecnologías con la protección de los derechos fundamentales, y clasifica los sistemas de inteligencia artificial en cuatro niveles de riesgo (desde los que están absolutamente prohibidos hasta los que conllevan un riesgo mínimo).

La norma europea prevé un régimen sancionador y multas millonarias: de hasta 35 millones de euros en el caso de las infracciones muy graves, por utilizar por ejemplo sistemas prohibidos; o de 15 millones en el caso de las graves, por incumplimientos relacionados con los sistemas catalogados como "de alto riesgo", como los que se han probado durante más de un año el primer 'sandbox' español.

Entre los aprendizajes más relevantes, este banco de pruebas ha señalado la necesidad de disponer de herramientas prácticas, de guías interpretativas, de plantillas y de un acompañamiento especializado para facilitar el cumplimiento de las normas sin que ello implique un freno a la innovación, y ha apuntado la utilidad que puede tener para empresas, responsables de innovación y organizaciones que quieran desarrollar o utilizar sistemas de IA catalogados de 'alto riesgo'.

Este 'piloto' ha demostrado que los 'bancos de pruebas' son una herramienta muy eficaz para reducir la incertidumbre que puede existir en torno a la regulación de la IA, concluye el informe, que valora además cómo esta experiencia pionera en la UE está sirviendo de referencia para otros países y consolidando la posición española -asegura- como uno de los países más avanzados en la aplicación práctica y la gobernanza de una inteligencia artificial ética y confiable.

Entre las organizaciones que han sometido sus sistemas a este 'banco de pruebas' hay grandes empresas (Airbus Operations y Adevinta Jobs); medianas (Veridas Digital Authentication Solution y Bit&Brain Technologies); pequeñas (Herta Security e Imotion Analytics) o empresas emergentes (Tucuvi Care, Made Of Genes, Dedomena Artificial Intelligence, Shakers Global Solutions); y en el piloto ha participado además la Fundación Centro de Investigación en Tecnologías de la Información y las Comunicaciones de Galicia.

Y varios de los desarrollos que se han implementado y experimentado durante este periodo de pruebas han contado además con el apoyo técnico de otras empresas (Google Cloud, Indra, InfoJobs, BBVA o Genomcore), y con el asesoramiento de un panel de expertos independientes y de la Secretaría de Estado de Digitalización e Inteligencia Artificial. EFE

(Recursos de archivo en EFEServicios: 55019651501)