Se prohíbe el uso de la inteligencia artificial para generar imágenes sexuales sin el permiso de la persona implicada en toda la Unión Europea

Por fin el Parlamento Europeo se ha puesto de acuerdo para poner límites a los sistemas de inteligencia artificial (IA) después de la polémica por la generación de imágenes sexuales por parte de algunas herramientas digitales como Grok, vinculada a la red social X. La nueva normativa se ha aprobado dentro de la reforma de la ley europea de IA, la cual ha introducido nuevas restricciones sobre contenidos sexuales generados sin consentimiento.

De esta forma, se prohíben de forma expresa los sistemas de IA que tengan como fin exclusivo la creación de imágenes íntimas o sexuales que no cuenten con el consentimiento de las personas involucradas. Además, veta rotundamente la generación de material de abuso sexual infantil mediante este tipo de tecnología. La Unión Europea ha endurecido así el marco regulatorio para los desarrolladores, que deberán implementar “medidas de seguridad razonables” con el objetivo de impedir la circulación de estos contenidos.

El texto legal, pactado en mayo entre el Consejo y el Parlamento Europeo, forma parte del paquete legislativo Omnibus VII, iniciativa que busca simplificar la digitalización y reducir las cargas administrativas en el espacio comunitario. Según ha podido saber Europa Press, el paquete contempla también la ampliación de ciertas exenciones regulatorias, inicialmente previstas solo para pymes, que ahora alcanzarán a empresas de mediana capitalización reducida.

¿Qué otras medidas se inscriben dentro de esta reforma?

Entre los principales cambios, la reforma retrasa hasta el 2 de diciembre la obligación de identificar de forma transparente los materiales generados artificialmente, como imágenes, vídeos o audios creados por IA. Estas piezas deberán incorporar mecanismos visibles que permitan a los usuarios distinguir su origen. Mientras que las obligaciones para los sistemas de IA de alto riesgo, como los empleados en sanidad, educación, banca, contratación de personal, control fronterizo o gestión de infraestructuras críticas, quedarán pospuestas hasta el 2 de diciembre de 2027.

En el caso de los sistemas de IA integrados en productos —como dispositivos médicos o maquinaria industrial—, las nuevas exigencias comenzarán a aplicarse a partir del 2 de agosto de 2028. El aplazamiento de los plazos, que inicialmente se preveían más cortos, responde a la falta de estándares técnicos y herramientas suficientes para garantizar la aplicación efectiva de la normativa.

El acuerdo también establece la creación de entornos nacionales de pruebas regulatorias, cuyo desarrollo por parte de los Estados miembros podrá aplazarse hasta agosto de 2027. Esta medida busca facilitar la adaptación de los sistemas de IA a los diferentes marcos legales y permitir su evaluación antes de la aplicación definitiva de las normas.

Por otra parte, la reforma introduce disposiciones destinadas a evitar la duplicidad de requisitos para productos industriales que ya cumplan otras regulaciones comunitarias específicas. Así, dispositivos médicos, juguetes, ascensores, maquinaria o embarcaciones podrán quedar exentos de parte de las obligaciones de la ley de IA si ya están sujetos a normativas sectoriales equivalentes.

Asimismo, el texto mantiene la obligación para las empresas de registrar determinados sistemas en la base de datos europea, incluso cuando consideren que dichos sistemas no encajan en la clasificación de alto riesgo. Además, la normativa restablece el criterio de “estricta necesidad” para el uso de categorías especiales de datos personales empleados en la detección y corrección de sesgos en sistemas de IA.

La reforma aclara también las competencias de la Oficina Europea de IA, que supervisará los modelos de propósito general desarrollados íntegramente por un mismo proveedor. No obstante, en ámbitos como control fronterizo, administración de justicia, fuerzas de seguridad o entidades financieras, las autoridades nacionales seguirán asumiendo la supervisión directa.