Bruselas abre expediente sancionador a X por las imágenes sexuales deepfake y otros contenidos de Grok

El procedimiento comunitario que examina las prácticas de X incluye varias fases, como el requerimiento de información adicional, la consulta a terceros y la revisión de las respuestas de la compañía antes de determinar la conclusión de la investigación, la cual podría finalizar con sanciones que alcancen hasta el 6 % de la facturación global en caso de descubrirse infracciones. De acuerdo con la Comisión Europea, este proceso se considera una prioridad debido a los riesgos identificados, en particular por el uso de la herramienta de inteligencia artificial Grok en la generación de imágenes sexuales deepfake sin consentimiento y otros tipos de contenido polémico en la red social propiedad de Elon Musk.

Según informó la Comisión Europea este lunes, se ha iniciado una investigación formal destinada a esclarecer si X está cumpliendo con la legislación europea de servicios digitales (DSA, por sus siglas en inglés). El órgano ejecutivo sospecha que la integración de Grok, un asistente de inteligencia artificial, posibilita la propagación de material sexualmente explícito generado artificialmente sin autorización, así como la circulación de contenidos que pueden contravenir la normativa continental. Tal como publicó la propia Comisión, parte del enfoque de la pesquisa se dirige a determinar si la plataforma adopta medidas suficientes para evaluar y mitigar los riesgos sistémicos procedentes de Grok, entre ellos la diseminación de materiales ilegales y las posibles repercusiones nocivas sobre cuestiones como la violencia contra las mujeres, la integridad física y la salud mental.

La investigación busca aclarar si la compañía de Elon Musk cumple con la obligación, establecida por la DSA, de preparar y entregar a las autoridades comunitarias un informe específico de evaluación de riesgos sobre las capacidades y el impacto de Grok, así como sobre los riesgos añadidos que esta herramienta pueda suponer para los usuarios de X, según detalló el medio. Además, la Comisión analizará si el informe de evaluación presentado cubre los requisitos establecidos, evaluando la transparencia y la exhaustividad de la información facilitada.

El expediente sancionador abierto este lunes no cuenta con plazos específicos para la resolución, pero según informaron fuentes de la Comisión Europea, las circunstancias vinculadas al caso obligan a tratarlo como una cuestión prioritaria para el Ejecutivo con sede en Bruselas. Estas fuentes recalcaron que la investigación pondrá especial énfasis en los riesgos derivados de la utilización de inteligencia artificial para la creación y difusión de contenido que pueda considerarse ilegal o perjudicial, así como en la responsabilidad de las plataformas para la protección de los usuarios y la prevención de daños, conforme a lo dispuesto en la DSA.

La actuación comunitaria ocurre en un contexto donde ya existe un precedente frente a la compañía de Musk. En diciembre del año pasado, la Comisión Europea impuso a X una sanción de 120 millones de euros por prácticas engañosas relacionadas con la marca azul de verificación, en la primera resolución de incumplimiento de la DSA vinculada a la red social. El medio señaló que esta multa aún no ha sido abonada por la empresa, aunque las autoridades aclararon que el plazo de tres meses para el pago todavía no ha vencido y que el diálogo entre ambas partes sigue su curso.

El análisis de la Comisión abarca, además del uso de Grok, la posible existencia de lagunas en la gestión de riesgos por parte de X, una preocupación central a raíz de la rápida expansión de herramientas de inteligencia artificial generativa. De acuerdo con lo expuesto por la Comisión Europea, se requerirán amplias explicaciones por parte de la compañía estadounidense sobre la forma en que evalúa, monitorea y responde a posibles desafíos asociados con el uso de sistemas automatizados avanzados en su plataforma, en especial cuando estos pueden facilitar la circulación de imágenes o contenidos no autorizados de carácter sexual o susceptible de generar daños específicos a la integridad emocional y física de las personas.

En las etapas sucesivas del procedimiento, la Comisión podrá convocar a especialistas externos e interlocutores de la sociedad civil, además de solicitar aclaraciones adicionales a X, antes de emitir un dictamen definitivo, conforme a lo que estipula el DSA. The European Digital Services Act, vigente desde el año pasado, impone a plataformas y servicios en línea obligaciones estrictas relacionadas con la gestión de riesgos, la transparencia y la protección de los consumidores contra los peligros derivados de la automatización y la desinformación.

Fuentes de la Comisión Europea han manifestado al medio que esta investigación permitirá clarificar hasta qué punto X está preparada para ajustarse a los estándares de seguridad y gobernanza adoptados en territorio comunitario, haciendo frente a los retos recientes vinculados a la inteligencia artificial aplicada a la generación de imágenes y otros contenidos. Entre los objetivos del proceso se incluye también generar precedente sobre la responsabilidad de las tecnológicas ante nuevas formas de manipulación digital, como los deepfakes, y evaluar la cooperación de X ante los requerimientos europeos.

El medio detalló que los resultados de la investigación podrían derivar en multas de gran cuantía si se determina que X no ha tomado las precauciones necesarias o ha incurrido en incumplimientos graves respecto de sus deberes bajo la DSA. De producirse tal desenlace, se trataría de una segunda sanción relevante para la compañía en menos de un año, en medio de crecientes preocupaciones por el impacto social y legal del uso de algoritmos de generación de contenido.