CERMI reclama que la "simplificación" de la regulación europea de la IA no debilite derechos fundamentales

El Comité Español de Representantes de Personas con Discapacidad (CERMI) ha advertido del "riesgo" de que la simplificación de determinados aspectos del marco regulador europeo de la Inteligencia Artificial (IA) "debilite" la protección de los derechos fundamentales de las personas con discapacidad.

"El riesgo es que la simplificación termine convirtiéndose en una desregulación gradual y que la competitividad se imponga sobre la dimensión social del proyecto europeo. El reto no consiste en frenar la innovación, sino en asegurar que sus beneficios se traduzcan en mayor inclusión y accesibilidad, sin debilitar la protección de los derechos", subraya el CERMI en el informe.

En concreto, el trabajo analiza la propuesta de Reglamento Ómnibus Digital sobre Inteligencia Artificial, impulsada por las instituciones europeas con el propósito de simplificar determinados aspectos del marco regulador de la IA y reducir cargas administrativas.

Desde la perspectiva de la discapacidad, el CERMI advierte de que cualquier proceso de simplificación normativa debe preservar íntegramente las salvaguardias previstas en el 'Reglamento europeo de Inteligencia Artificial', especialmente cuando los sistemas de IA puedan incidir en ámbitos sensibles como el empleo, la educación, la protección social, la salud, la justicia o el acceso a bienes y servicios.

El CERMI afirma que la IA ofrece una "oportunidad" para favorecer la autonomía personal, la accesibilidad universal, la comunicación y la participación social de las personas con discapacidad. Si bien, también advierte de que puede generar nuevos riesgos de discriminación, exclusión o "sesgos" algorítmicos si no se desarrolla y aplica desde un enfoque basado en los derechos humanos.

El informe sostiene que la competitividad, la innovación y la simplificación administrativa es un objetivo "legítimo" de la Unión Europea, pero apunta que no deben alcanzarse a costa de rebajar los estándares de protección de las personas y grupos más vulnerables.

Por ello, reclama que toda revisión del marco regulador mantenga los principios de accesibilidad universal, diseño para todas las personas, supervisión humana, transparencia, rendición de cuentas y no discriminación.

Asimismo, el documento formula una serie de recomendaciones dirigidas a las instituciones europeas, a los Estados miembros y a los agentes implicados en el desarrollo y despliegue de sistemas de inteligencia artificial, con el fin de garantizar que la evolución normativa continúe alineada con la Convención Internacional sobre los Derechos de las Personas con Discapacidad y con el modelo europeo de derechos fundamentales.

La Unión Europea (UE) afronta desde el 2 de agosto un nuevo hito en la implementación del Reglamento europeo de inteligencia artificial (AI Act), con la entrada en vigor de las primeras obligaciones de transparencia y el inicio de la aplicación de las disposiciones aplicables a nivel nacional y comunitario.

Según el calendario publicado por la Comisión Europea, en esta fase se activan específicamente las normas de transparencia del artículo 50 y las medidas de apoyo a la innovación, que refuerzan el sistema de supervisión y cumplimiento en todos los Estados miembros, así como la aplicación de la Ley de IA en ámbitos como los modelos de propósito general, las prohibiciones y los requisitos de alfabetización en inteligencia artificial (IA).

La Comisión Europea comenzará a aplicar las obligaciones que exigirán identificar los contenidos generados o manipulados mediante esta tecnología, incluidos los conocidos como 'deepfakes', y obligarán a los 'chatbots' y otros sistemas a advertir a los usuarios de que están interactuando con una IA, al tiempo que Bruselas asumirá por primera vez las competencias para velar por el cumplimiento de la norma.

En la práctica, las herramientas capaces de crear imágenes, vídeos, audios o textos deberán incorporar marcas que permitan reconocer esas producciones, mientras que su uso con fines profesionales exigirá indicar de forma clara que han sido alteradas mediante inteligencia artificial y los asistentes conversacionales informar de que el usuario está hablando con una máquina y no con una persona.