La ley de IA obligará a identificar contenidos artificiales para ayudar a distinguir entre realidad y ficción

La Ley Orgánica para el buen uso y la gobernanza de la Inteligencia Artificial (IA), que adapta la legislación nacional al Reglamento europeo de IA ya en vigor, obligará a identificar los contenidos artificiales para ayudar a distinguir entre realidad y ficción.

Así lo han detallado este martes fuentes del Ministerio para la Transformación Digital y de la Función Pública, tras la aprobación de la ley, en segunda vuelta, por parte del Consejo de Ministros para su remisión al Congreso.

En concreto, respecto al etiquetado o marca de agua que deben incluir los contenidos, se ha publicado en audiencia un borrador de código de buenas prácticas, que todavía no está cerrado y dependerá de las observaciones que se realicen: en el caso de textos, deben llevar las letras 'AI' en un determinado tamaño y en función del tipo de imagen podrá ir en un lado u otro.

Si se trata de un vídeo todo generado con IA, habrá que indicar durante todo el vídeo que es creado con dicha tecnología; si contiene partes, habrá que avisarlo al principio del mismo; y es un vídeo muy largo, con distintos trozos, habrá que advertirlo al principio y durante el vídeo. El caso del audio, será similar al vídeo.

En cuanto a las prácticas prohibidas que pueden ser denunciadas por parte de los ciudadanos, se incluyen la manipulación engañosa para anular la voluntad, causando daños físicos o psíquicos; el aprovechamiento de edad, discapacidad o situación socioeconómica para distorsionar conductas; la clasificación biométrica; la evaluación de conducta para imponer tratos desfavorables o exclusión ciudadana injustificada; y la evaluación del riesgo de cometer delitos basándose solo en perfiles o rasgos personales.

También se prohíbe el reconocimiento de emociones en entornos laborales y educativos por vulnerar la intimidad del individuo; la extracción no selectiva de imágenes de internet o CCTV para bases de datos faciales; el uso de biometría remota en espacios públicos, salvo excepciones críticas y mandato judicial; los deepfakes sexuales y la pornografía infantil, estas dos últimas incluidas en el Ómnibus de IA (parte del Paquete Ómnibus Digital de la Unión Europea) impulsadas por España.

Si estas prácticas son detectadas se podrían castigar con hasta 35 millones de euros --tope máximo-- o el 7% de su volumen de negocio anual, han destacado las fuentes del Ministerio, que esperan que el Congreso sea sensible a esta realidad y se apruebe la ley. Además, han indicado que aunque no se podrá multar hasta que se apruebe la ley, la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) sí podrá apercibir a los infractores.

Entre los cambios que se han introducido con respecto al texto anterior también destacan que se ha aprobado como ley orgánica, porque afecta a derechos fundamentales; y se ha incluido un capítulo de inteligencia artificial en la Administración, con la figura de los delegados de inteligencia artificial.

Por su parte, la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) tiene ahora un mayor papel coordinador y cambiará sus estatutos para ser otro tipo de autoridad, más independiente, a partir de seis meses desde que se apruebe la ley. Según las fuentes del Ministerio, los recursos humanos de la AESIA están garantizados y la permanencia de la agencia también.