El Gobierno quiere castigar vídeos generados con IA como el de ‘la isla de las corrupciones’ del PP: sanciones desde medio millón hasta 7,5 millones de euros

El Gobierno ha dado este martes luz verde al anteproyecto de ley de buen uso y gobernanza de la Inteligencia Artificial (IA), que busca una utilización de esta herramienta desde el punto de vista “ético, inclusivo y beneficioso para las personas”. En esencia, la norma pretende adaptar la legislación española al reglamento europeo de IA, ya en vigor. De esta manera, España está llamada a ser el segundo país del bloque comunitario en acometer una reforma en este sentido.

“La IA es una herramienta muy poderosa, que puede servir para mejorar nuestras vidas o atacar a la democracia; puede tener buenos usos o malos usos. La IA puede ser utilizada para investigar el cáncer o el Alzheimer, para prevenir catástrofes naturales, para descubrir nuevos medicamentos; o puede ser usada para difundir bulos y mentiras, esparcir odio y atacar a nuestra democracia. Por eso es oportuno su buen uso y gobernanza”, ha destacado el ministro para la Transformación Digital y de la Función Pública, Óscar López, en la rueda de prensa posterior al Consejo de Ministros.

La iniciativa, ya prevista por el Gobierno, recibe un impulso después del polémico vídeo publicado por el PP la semana pasada. Los de Alberto Núñez Feijóo aprovecharon el final del famoso programa La isla de las tentaciones para arremeter contra el Ejecutivo de Pedro Sánchez por el presunto caso de corrupción que salpica al exministro de Transportes José Luis Ábalos, en el marco del caso Koldo, o la investigación que involucra a la esposa del presidente del Gobierno, Begoña Gómez, por un supuesto tráfico de influencias.

En el vídeo, titulado La Isla de las Corrupciones y generado con IA, aparece el presidente del Gobierno sin camiseta, su mujer en bikini, así como otros personajes involucrados en investigaciones judiciales como el empresario Víctor de Aldama, la expareja de Ábalos, Jéssica Rodríguez, el propio exministro socialista Ábalos, el ministro de Política Territorial Ángel Víctor Torres o el Fiscal General del Estado, Álvaro García Ortiz, todos ellos presentados como concursantes de este reality.

“Una vez acabada La Isla de las Tentaciones, comienza la nueva aventura de la Isla de las Corrupciones”, señaló el partido en una publicación que posteriormente tuvo que eliminar ante el rechazo expresado por el Gobierno de la República Dominicana, ya que el vídeo se mostraba sobre un mapa del país caribeño.

Régimen sancionador: tres categorías

El anteproyecto de ley, que se tramitará por la vía de urgencia, seguirá ahora los trámites preceptivos antes de volver al Consejo de Ministros para su aprobación definitiva como proyecto de ley y envío a las Cortes para su aprobación. El reglamento prohíbe determinados “usos maliciosos” de la IA, introduce obligaciones más rigurosas para sistemas considerados de alto riesgo y establece unos requisitos mínimos de transparencia para el resto. Incorpora, además, un “nuevo derecho digital de retirada provisional del mercado español de sistemas de IA por la autoridad de vigilancia competente cuando hayan provocado un incidente grave, como el fallecimiento de una persona”.

Las prácticas prohibidas entraron en vigor el 2 de febrero de 2025 y desde el 2 de agosto de 2025 se podrán sancionar mediante multas u otras medidas adicionales (requerir su adaptación al sistema para que sea conforme, impedir que se comercialice…) aplicando el régimen sancionador que incorpora el anteproyecto de ley, dentro de las horquillas que fija el reglamento europeo.

En esta línea, algunas de las prácticas prohibidas son el uso de técnicas subliminales (imágenes o sonidos imperceptibles) para manipular decisiones sin consentimiento, causando un perjuicio considerable a la persona (adicciones, violencia de género o menoscabo de su autonomía). También, explotar vulnerabilidades relacionadas con la edad, la discapacidad o situación socioeconómica para alterar sustancialmente comportamientos de modo que les provoque o pueda provocar perjuicios considerables, así como la clasificación biométrica de las personas por raza u orientación política, religiosa o sexual.

Las sanciones que se pondrán para este tipo de sistemas oscilan entre los 7,5 y los 35 millones de euros, o entre el 2% y el 7% del volumen de negocio mundial del ejercicio anterior, si esta última cifra es superior, salvo en el caso de pymes, que podrá ser la menor de las dos cuantías. Las autoridades encargadas de vigilar los sistemas prohibidos serán la Agencia Española de Protección de Datos (para sistemas biométricos y gestión de fronteras); el Consejo General del Poder Judicial (para sistemas de IA en el ámbito de la justicia), la Junta Electoral Central (para sistemas que IA que afecten a procesos democráticos) y la Agencia Española de Supervisión de la Inteligencia Artificial en el resto de los casos.

Por otro lado, la ley establece sistemas de alto riesgo, como los incorporados a sistemas industriales, juguetes, transportes, sanidad, infraestructuras críticas, educación y formación profesional, empleo, derecho, migración, fronteras, justicia, procesos democráticos, etc. “Deberán cumplir una serie de obligaciones, como disponer de un sistema de gestión de riesgos, documentación técnica, gobernanza de datos o conservación de registros”, apuntan fuentes del Ministerio.

En caso de incumplimiento, se exponen a sanciones en función de su gravedad. La sanción de una infracción muy grave oscilará entre los 7,5 y los 15 millones de euros o hasta el 2% y el 3% del volumen de negocio mundial. En cuanto a una infracción grave, esta oscilará entre 500.000 euros y 7,5 millones de euros o entre el 1% y el 2% del volumen de negocio mundial.

Como ejemplo, y en relación con el reciente vídeo del PP, el Gobierno ha confirmado que se considerará como una infracción grave no cumplir con la obligación de etiquetar correctamente cualquier imagen, audio o vídeo generado o manipulado con IA y que muestren a personas reales o inexistentes diciendo o haciendo cosas que nunca han hecho o en lugares donde nunca han estado, lo que constituye una ultrasuplantación (deepfake). Estos contenidos deberán identificarse como contenidos generados por IA “de manera clara y distinguible a más tardar con ocasión de la primera interacción o exposición”, tal y como especifica el reglamento europeo.