California está impulsando un paquete de leyes para regular la inteligencia artificial y combatir los deepfakes

California podría convertirse en el primer estado de EEUU en implementar rigurosas medidas de seguridad sobre los modelos de inteligencia artificial de gran escala. Los legisladores californianos aprobaron esta semana una serie de propuestas dirigidas a regular la industria de la inteligencia artificial (IA), proteger a los trabajadores del abuso tecnológico y combatir los deepfakes.

Ahora, estas propuestas están en manos del gobernador Gavin Newsom, quien tiene hasta el 30 de septiembre para decidir si las firma, las veta o permite que se conviertan en ley sin su firma, según informó ABC News.

La Asamblea Legislativa de California, controlada por los demócratas, está votando cientos de proyectos de ley en la última semana de la sesión, con el objetivo de enviarlos al despacho de Newsom antes de la fecha límite fijada para el sábado 7 de septiembre.

Entre las propuestas aprobadas, destaca una medida destinada a prohibir los deepfakes relacionados con las elecciones y exigir a las grandes plataformas de redes sociales eliminar este contenido engañoso 120 días antes del Día de las Elecciones de 5 de noviembre y 60 días después de este. Además, las campañas tendrán que divulgar públicamente si sus anuncios incluyen materiales alterados mediante IA.

Los legisladores también aprobaron una legislación que haría ilegal la creación de imágenes y videos de abuso sexual infantil generados con herramientas de IA. Actualmente, la ley no permite a los fiscales perseguir a las personas que posean o distribuyan imágenes de abuso sexual infantil generadas por IA si no pueden probar que las imágenes representan a una persona real, según ABC News.

En un esfuerzo por aumentar la transparencia y seguridad en el desarrollo de IA, también se aprobó una propuesta que requerirá a los desarrolladores divulgar qué datos utilizan para entrenar sus modelos. Esta medida busca proporcionar una mayor comprensión de cómo funcionan los modelos de IA y prevenir desastres futuros que puedan surgir debido a su uso indebido.

Otra iniciativa dirigida a proteger a los trabajadores inspira sus raíces en la huelga de actores de Hollywood del año pasado. Los legisladores californianos aprobaron una propuesta que protege a los trabajadores, incluidos los actores de voz y los narradores de audiolibros, de ser reemplazados por sus clones generados por IA. Este proyecto de ley refleja el contrato que el sindicato SAG-AFTRA firmó con los estudios en diciembre pasado, apuntó ABC News.

Además, se prohibirá a las agencias estatales y locales utilizar IA para reemplazar a los trabajadores de los centros de llamadas bajo una de las propuestas aprobadas. La legislación también contempla la creación de sanciones para quienes clonen digitalmente a personas fallecidas sin el consentimiento de sus herederos.

Dado el creciente uso de la IA en la vida diaria de los estadounidenses, los legisladores estatales también han aprobado varias leyes para incrementar la alfabetización en IA. Una propuesta requerirá que un grupo de trabajo estatal considere incorporar habilidades de IA en los currículos de matemáticas, ciencias, historia y ciencias sociales, mientras que otra desarrollará directrices sobre cómo las escuelas pueden utilizar la IA en las aulas, según ABC News.

El gobernador Newsom ya indicó su apoyo a una propuesta específica para abordar los deepfakes en épocas electorales. Sin embargo, advirtió que un exceso de regulación podría perjudicar a la industria tecnológica del estado, que es líder mundial en innovación.