España investigará a los gigantes de las redes sociales por material generado con IA

El gobierno de Pedro Sánchez quiere que los fiscales investiguen a X, Meta y TikTok por la presunta difusión de contenido de abuso sexual infantil generado por inteligencia artificial.

El martes, el presidente del gobierno español, Pedro Sánchez, dijo que su gobierno pedirá a los fiscales que investiguen a los gigantes de las redes sociales X, Meta y TikTok por la presunta difusión de material de abuso sexual infantil generado por inteligencia artificial, la medida más reciente en un esfuerzo europeo para regular a las grandes empresas tecnológicas.

"Estas plataformas están atentando contra la salud mental, la dignidad y los derechos de nuestros hijos e hijas", escribió Sánchez en las redes sociales. "El Estado no lo puede permitir. La impunidad de los gigantes debe acabar".

X y TikTok no respondieron inmediatamente a las solicitudes de comentarios. Meta declinó hacer comentarios. Después de que la policía francesa allanara las oficinas de X en París en relación con acusaciones similares, la empresa declaró que "niega categóricamente cualquier delito".

El anuncio en España intensifica una disputa entre los gobiernos europeos y las empresas tecnológicas estadounidenses, que han recibido el respaldo del gobierno de Donald Trump por los esfuerzos realizados en el continente para establecer límites a la industria.

El enfrentamiento ha revelado visiones marcadamente diferentes entre Estados Unidos y sus gigantes tecnológicos, y la Unión Europea y sus Estados miembro sobre lo que cuenta como discurso protegido y el papel de las corporaciones a la hora de garantizar el bienestar de los afectados por sus plataformas. Europa se ha convertido en un experimento central sobre la capacidad de los gobiernos democráticos para regular y penalizar eficazmente a una de las industrias más dominantes del mundo. En diciembre, la Unión Europea emitió la primera multa en virtud de su nueva Ley de Servicios Digitales, sancionando a X, la plataforma de medios sociales propiedad de Elon Musk, con 120 millones de euros, unos 140 millones de dólares, por infracciones. Este mes, la policía francesa registró las oficinas locales de X como parte de la investigación de la división francesa de ciberdelincuencia sobre la difusión de pornografía infantil y la negación del Holocausto en el sitio.

El regulador británico de protección de datos también ha anunciado una investigación a X por las imágenes sexualmente explícitas generadas por su chatbot de inteligencia artificial, Grok. La Comisión de Protección de Datos de Irlanda también anunció el martes que había abierto una investigación sobre si Grok había permitido la difusión de imágenes pornográficas de menores en la plataforma.

Los líderes europeos afirman que sus esfuerzos buscan proteger a los ciudadanos de los abusos, y no un intento --como han argumentado políticos y líderes tecnológicos estadounidenses-- de limitar la libertad de expresión.

Sánchez, un líder de izquierda que no ha tenido reparos en desafiar a Trump o a las grandes empresas tecnológicas estadounidenses, pidió a la fiscalía que "investigue los delitos que X, Meta y TikTok podrían estar cometiendo por la creación y difusión de pornografía infantil mediante sus IA".

Este mes, España se unió a Francia, Dinamarca y Australia en su intento de prohibir las redes sociales a los menores de 16 años, y Sánchez afirmó: "Los protegeremos del salvaje Oeste digital".

La prohibición propuesta por su gobierno aún requiere la aprobación parlamentaria. Pero la medida propuesta, y el mensaje de Sánchez sobre las "infracciones cometidas" por Grok, desencadenó inmediatamente un ataque vulgar y personalmente dirigido contra Sánchez de Musk.

Algunos analistas políticos españoles sugirieron que era justo la reacción esperada por Sánchez, quien ha buscado posicionarse como un líder liberal en un escenario mundial mientras se enfrenta a profundas divisiones políticas y escándalos en casa.

Jason Horowitz es el jefe del buró en Madrid del Times; cubre España, Portugal y cómo vive la gente en Europa.