La inteligencia artificial bajo la lupa: California establece pautas para su uso en la creación de contenido

El estado de California ha emitido una orden ejecutiva que implementa por primera vez en Estados Unidos un conjunto de directrices obligatorias para la identificación y supervisión del contenido generado por inteligencia artificial.

La medida, de alcance sin precedentes a nivel nacional, introduce la obligación de incorporar marcas de agua en todas las imágenes y vídeos creados o modificados de manera significativa mediante sistemas de IA, según informó el sitio Secret Los Angeles.

El principal cambio derivado de la orden ejecutiva es que el Departamento de Tecnología de California deberá desarrollar recomendaciones técnicas y protocolos para la incorporación visible de marcas de agua en los contenidos generados por inteligencia artificial.

Además, la normativa estatal exige que las empresas tecnológicas que aspiren a contratar con el Estado demuestren la existencia de medidas de seguridad robustas para prevenir el uso indebido de la IA, abordar sesgos algorítmicos, evitar la generación de contenido ilegal y proteger los derechos civiles, según lo consignado por Secret Los Angeles.

La directiva californiana amplía una tendencia regulatoria emergente en Estados Unidos, aunque ninguna otra jurisdicción ha adoptado hasta ahora un esquema tan exhaustivo.

Por ejemplo, Colorado exige evaluaciones de riesgo y advertencias explícitas en aplicaciones de IA de alto impacto social; Illinois exige auditorías antisesgo; y Texas ha promulgado leyes para la divulgación obligatoria de deepfakes en contextos definidos, según el informe de Secret Los Angeles.

El avance de la regulación estatal de IA y sus efectos inmediatos

La orden ejecutiva no se limita a la supervisión. Incluye una instrucción directa para mejorar el acceso ciudadano a servicios públicos mediante tecnología, al encomendar el diseño de una herramienta basada en IA que ayude a los habitantes de California a conectarse de modo más eficiente con programas y prestaciones sociales, en momentos clave como el inicio de una empresa o la búsqueda de empleo, según publica Secret Los Angeles.

De acuerdo con el texto de la medida, las agencias estatales deberán revisar tanto los mecanismos de control sobre la inteligencia artificial como los procedimientos para integrarla de manera eficaz en la provisión de servicios públicos.

Esta doble intención —regulación preventiva y aprovechamiento operativo— sitúa a California a la vanguardia en la definición de estándares administrativos vinculados a la IA en el sector público.

El requerimiento de transparencia técnica y evaluación de riesgos involucra tanto a desarrolladores como a proveedores de tecnología que interactúan con el Estado.

Cualquier empresa interesada en contratos públicos deberá acreditar sistemas activos de monitoreo y mitigación de desviaciones algorítmicas, así como filtros que prevengan la creación o difusión de contenido que vulnere derechos civiles o normativas estatales, según subraya Secret Los Angeles.

Estados Unidos intensifica el escrutinio sobre la transparencia y el sesgo en algoritmos y medios sintéticos

La iniciativa de California se integra en una ola nacional de medidas estatales orientadas a fortalecer la transparencia algorítmica y combatir la discriminación derivada del uso de inteligencia artificial en sectores como empleo, vivienda y salud.

La Ley de IA de Colorado, citada por Secret Los Angeles, obliga a los operadores de sistemas de alto riesgo a informar de forma clara a los consumidores sobre su funcionamiento y a realizar evaluaciones de riesgo periódicas.

En Illinois, la legislación ordena auditorías para detectar sesgos en sistemas de decisiones automatizadas, mientras que en Texas la normativa más reciente se focaliza en combatir la manipulación mediática, exigiendo que el contenido sintético —como los deepfakes— sea identificado de manera inequívoca cuando se utilice en ámbitos sensibles, según recoge Secret Los Angeles.

La directriz californiana marca un precedente en el control estatal sobre la producción y circulación de imágenes y vídeos sintéticos, reforzando la obligación de visibilidad y trazabilidad de los contenidos digitales que puedan afectar la confianza pública en la información.

Al introducir de manera sistemática las marcas de agua y auditorías técnicas, el Estado aspira a establecer un estándar que, como la normativa reciente de Colorado o las reformas legales en Texas e Illinois, podría replicarse en otras jurisdicciones en el futuro.

Con esta medida, California consolida su liderazgo en la regulación de la inteligencia artificial en Estados Unidos, promoviendo tanto la transparencia digital como la protección de los derechos civiles en el entorno digital.