California aprobó leyes sobre IA para frenar los deepfakes electorales y proteger a los actores

El gobernador de California, Gavin Newsom (D), firmó el martes una serie de proyectos de ley sobre inteligencia artificial con el objetivo de frenar los efectos de las deepfakes durante las elecciones y proteger a los artistas de Hollywood de que sus imágenes sean replicadas por IA sin su consentimiento.

Existe una preocupación creciente sobre la circulación de deepfakes durante la campaña de 2024, y las preocupaciones sobre el uso de la inteligencia artificial en Hollywood fueron una parte prominente de la histórica huelga de actores del año pasado. California es el hogar de “32 de las 50 principales empresas de IA del mundo, instituciones de investigación y educación de alto impacto”, según la oficina de Newsom, lo que obliga a su gobierno a equilibrar el bienestar público con las ambiciones de una industria que evoluciona rápidamente.

“Salvaguardar la integridad de las elecciones es esencial para la democracia...”, dijo Newsom el martes en un comunicado.

Entre las medidas está la A.B. 2655, que requiere que las grandes plataformas en línea eliminen o etiqueten contenido engañoso, alterado digitalmente o creado digitalmente relacionado con las elecciones durante ciertos períodos antes y después de que se lleven a cabo. También firmó la A.B. 2839, que amplía el período de tiempo durante el cual las personas y entidades tienen prohibido compartir conscientemente material electoral que contenga contenido generado o manipulado por IA de manera engañosa, y la A.B. 2355, que requiere que los anuncios electorales divulguen si usan contenido generado por IA o alterado sustancialmente.

En julio, después de que el propietario de X, Elon Musk, retuiteara un anuncio de campaña de Kamala Harris alterado, Newsom escribió en las redes sociales que “manipular una voz en un ‘anuncio’ como este debería ser ilegal ...”.

A pesar de los proyectos de ley firmados el martes, aún no está claro si Newsom firmará o vetará la S.B. 1047, que tiene como objetivo responsabilizar a las empresas de IA si su tecnología se utiliza para causar daño y que es ferozmente rechazada por la mayoría de la industria tecnológica.

Los capitalistas de riesgo y los fundadores de start-ups dicen que sofocaría la innovación, ya que los desarrolladores se preocuparían por los usos imprevistos de la tecnología de IA que construyen. El autor del proyecto de ley, el senador Scott Wiener (D), dice que simplemente busca formalizar los compromisos que las empresas de IA han hecho sobre tratar de evitar que su tecnología sea utilizada para hacer el mal.

Las nuevas leyes también incluyen dos medidas para actores y artistas que Newsom dijo que asegurarán que la industria “pueda seguir prosperando mientras se fortalecen las protecciones para los trabajadores y cómo se puede o no usar su imagen”.

La A.B. 2602 requiere que los contratos especifiquen cómo se usarán las réplicas generadas por IA de la voz o imagen de un artista. La A.B. 1836 prohíbe el uso comercial de réplicas digitales de artistas fallecidos sin el consentimiento de sus herederos.

El uso de la IA en el entretenimiento, ya sea a través de la replicación consensuada de actuaciones como la voz de Darth Vader de James Earl Jones o las advertencias de varias celebridades sobre imágenes de ellas alteradas por IA que circulan en línea sin su consentimiento, es un tema muy debatido.

El año pasado, el sindicato de actores SAG-AFTRA aseguró un contrato con salvaguardas contra la IA, incluyendo un requisito de que los actores den a los estudios “consentimiento informado” y reciban una “compensación justa” por la creación de réplicas digitales, informó The Washington Post.

La presidenta del sindicato, Fran Drescher, elogió los proyectos de ley en un comunicado el martes por ampliar las protecciones contra la IA que los actores “lucharon tanto por conseguir el año pasado” y agradeció a Newsom por “reconocer que los artistas importan y sus contribuciones tienen valor”.

Duncan Crabtree-Ireland, director ejecutivo nacional de SAG-AFTRA, añadió: “Nadie debería vivir con miedo de convertirse en el títere digital no remunerado de otra persona”.

(c) 2024 , The Washington Post