Los 27 abogan por vetar deepfakes sexuales y aplazar límites a la IA de alto riesgo en simplificación de la ley UE

La ampliación de las categorías prohibidas en la legislación europea sobre Inteligencia Artificial (IA), incluyendo la generación de imágenes sexuales manipuladas sin consentimiento —impulsada principalmente por Francia y España—, figura entre los puntos centrales del nuevo mandato negociador de los 27 países miembros de la Unión Europea. De acuerdo con la información aportada por Europa Press, los gobiernos de la UE han delineado su posición para la inminente negociación que busca simplificar la regulación sobre IA, proponiendo el veto de tecnologías capaces de crear imágenes o voces de personas para fines sexuales no consentidos o de carácter pedófilo. Al mismo tiempo, las capitales han respaldado el planteamiento realizado por la Comisión Europea de retrasar la entrada en vigor de las restricciones para los sistemas considerados de alto riesgo, combinando nuevas obligaciones y un calendario progresivo según el tipo de desarrollo.

Según detalló Europa Press, el mandato fijado por el Consejo de la UE adopta en términos generales la propuesta de revisión que presentó la Comisión Europea en noviembre pasado como parte del paquete conocido como 'Ómnibus digital', pero incluye enmiendas sustantivas. Entre los principales cambios destaca la ampliación de las categorías tecnológicas sujetas a prohibición explícita, con especial atención a la generación ilícita de contenido sexualmente explícito mediante IA, junto con la reincorporación de la obligación para que los proveedores inscriban sus sistemas de alto riesgo en la base de datos europea, siempre que estos cumplan ciertos requisitos.

El texto también introduce el restablecimiento del principio de “estricta necesidad” en el tratamiento de datos personales sensibles con el fin de asegurar la identificación y corrección de sesgos, asunto clave en el ámbito de aplicaciones decisivas como la evaluación de candidatos a empleo o la concesión de créditos. Europa Press publica que la reforma contempla, además, el aplazamiento de la fecha límite para que cada Estado miembro establezca entornos de prueba regulatorios de IA hasta el 2 de diciembre de 2027.

En relación con el marco de supervisión, la propuesta aclara las competencias de la Oficina de Inteligencia Artificial en el control de sistemas basados en modelos de propósito general desarrollados por el mismo proveedor, aunque establece excepciones. Según el medio Europa Press, estas excepciones reservan la competencia a las autoridades nacionales en sectores como la gestión de fronteras, las instituciones financieras, fuerzas de seguridad y autoridades judiciales.

Otra de las novedades consiste en la introducción de una nueva obligación para la Comisión Europea, que deberá proporcionar directrices destinadas a facilitar que los operadores económicos de sistemas de IA de alto riesgo, comprendidos en legislación sectorial, puedan adaptarse a los requisitos señalados en la nueva ley, minimizando así la carga administrativa y técnica, especialmente para pequeñas y medianas empresas (pymes). Según cálculos de la Comisión recogidos por Europa Press, la relajación de la documentación técnica que se exige a las pymes podría suponer un ahorro mínimo de 225 millones de euros anuales para este colectivo empresarial.

La reforma propuesta se enmarca en la Ley de Inteligencia Artificial acordada en diciembre de 2023, cuyas primeras disposiciones comenzaron a aplicarse durante el verano posterior. No obstante, la mayoría de las regulaciones, incluyendo las exigencias para tecnologías de riesgo elevado y las plataformas generativas como ChatGPT o DALL-E, estaban programadas para agosto de 2026. Con el objetivo de garantizar la existencia de herramientas adecuadas para supervisar y hacer cumplir la ley, la Comisión ha planteado aplazar la entrada en vigor de los límites más restrictivos, circunstancia que abordarán el Consejo y el Parlamento Europeo en las negociaciones previstas para comenzar en abril, detalló Europa Press.

Dentro del conjunto de sistemas calificados como de alto riesgo se encuentran aquellos empleados en procesos de identificación biométrica y categorización de personas físicas, tecnologías utilizadas para la contratación de personal, evaluación de préstamos, el manejo de infraestructuras críticas, la gestión legal y la administración de migración y asilo. La ley prevé que tanto estas categorías de sistemas como las aplicaciones de IA generativa deban someterse a estrictos criterios de transparencia. Esto incluye la obligación de advertir a los usuarios cuando accedan a contenidos generados por IA, así como adoptar medidas para evitar el uso de estas tecnologías en prácticas contrarias a la legalidad europea.

El mandato recogido por Europa Press estipula también un calendario diferenciado para la implementación de requisitos en función del tipo de sistema. La plena aplicación de las reglas para sistemas autónomos se ha fijado para diciembre de 2027, mientras que los desarrollos integrados deberán ajustarse a las nuevas obligaciones a partir de agosto de 2028.

El refuerzo de la Oficina de IA, junto con el esfuerzo de centralizar la supervisión de los sistemas basados en modelos generalistas, persigue reducir la dispersión y fragmentación de la gobernanza en materia de inteligencia artificial, accediendo así a una gestión más uniforme y coordinada dentro del ámbito de la UE.

Durante la presentación del acuerdo de los Estados miembros, Marilena Raouna, responsable de Asuntos Europeos del Gobierno de Chipre y presidenta de turno del Consejo, afirmó ante el medio Europa Press: “La propuesta aportará mayor seguridad jurídica, hará que la normativa sea más proporcionada y garantizará una aplicación más armonizada en todos los Estados miembro.”

El conjunto de medidas recogidas en el mandato tiene como propósito actualizar y adaptar la regulación comunitaria a los avances tecnológicos y a la evolución del mercado digital, al tiempo que busca armonizar los mecanismos de prevención, supervisión y control en ámbitos sensibles. La prohibición de los denominados 'deepfakes' sexuales y de materiales producidos sin consentimiento sitúa a la UE en una senda restrictiva en torno a los límites éticos y legales de la inteligencia artificial. Además, el aplazamiento selectivo para la entrada en vigor de las regulaciones ligadas a tecnologías de alto riesgo responde al objetivo de dotar a las autoridades y operadores de un espacio temporal adicional para desarrollar las herramientas y protocolos requeridos para asegurar el cumplimiento normativo.

Las instituciones europeas, según recogió Europa Press, mantienen el compromiso de proteger derechos fundamentales y promover la innovación responsable, en un contexto de rápida transformación, con la IA desempeñando un rol central en sectores estratégicos y de uso cotidiano. El proceso de negociación que se abre entre Consejo y Parlamento marcará el devenir de la normativa en los próximos años, coincidiendo con la implementación progresiva del marco regulatorio adaptado a las demandas tecnológicas y sociales de la Unión Europea.