Grupo de fiscales de EEUU exigen a X medidas contra imágenes sexualizadas creadas por Grok

El reclamo de mayor control y opciones para los usuarios, en relación a la capacidad de Grok para editar o intervenir en contenido compartido en X, figura entre las cuestiones centrales señaladas por los fiscales estadounidenses. De acuerdo con la agencia EFE, un grupo de 35 fiscales generales de distintos partidos políticos presentó este lunes una carta a la red social X —propiedad de Elon Musk— donde exige explicaciones a xAI, empresa a cargo del chatbot de inteligencia artificial Grok. El documento reclama acciones inmediatas para suprimir imágenes sexualizadas generadas sin consentimiento y el establecimiento de sanciones para usuarios que produzcan o difundan este tipo de contenido.

Entre los puntos expuestos, destacó la solicitud para que xAI detalle las acciones que desplegará en cuanto a la eliminación de imágenes ya creadas y la suspensión de las cuentas responsables por este tipo de materiales. Los firmantes pidieron que quienes incurran en estas prácticas sean denunciados ante las autoridades correspondientes. La misiva también instó a la tecnológica a desplegar mecanismos para evitar futuras creaciones de imágenes no consentidas que impliquen a personas, sean o no gráficas, y que incluyan retratos en bikini, lencería, atuendos reveladores, posturas sugerentes o material vinculado al abuso sexual infantil.

Según detalló EFE, los fiscales señalaron que las respuestas implementadas hasta el momento no alcanzan a ofrecer una protección efectiva, en especial para niñas, niños y mujeres, quienes conforman la mayoría de víctimas en estos casos. El texto enfatizó que la producción y distribución de contenido de abuso sexual infantil constituyen delitos. Asimismo, recordó que tanto la legislación federal como la de los distintos estados en el país prohíben expresamente la creación de imágenes íntimas sin aprobación.

Los representantes estatales exigen que los usuarios de la red social X tengan la capacidad de controlar si Grok puede modificar publicaciones, así como la opción de impedir fácilmente que la cuenta @Grok interactúe con sus aportaciones o gestione imágenes sin previa autorización del usuario afectado. Este punto, reflejado en la carta citada por EFE, apunta a fortalecer los mecanismos de consentimiento y a potenciar la autonomía de los usuarios dentro de la plataforma.

La agencia EFE informó que solo el mes pasado, una coalición formada por 42 fiscales, entre ellos el del estado de Nueva York, remitió un escrito similar dirigido a las principales empresas tecnológicas. En aquella ocasión, solicitaban que los desarrolladores de chatbots de inteligencia artificial implementen medidas que protejan a menores de edad y a otros sectores identificados como vulnerables frente a la proliferación de este tipo de contenidos manipulados por IA.

La petición remitida a X y a su brazo desarrollador xAI coincidió en el tiempo con el anuncio de una investigación por parte de la Unión Europea acerca de la creación y distribución de imágenes íntimas generadas sin consentimiento mediante Grok. Según reportó EFE, el organismo europeo sigue los pasos de otros países que en las últimas semanas han impulsado iniciativas y averiguaciones similares para determinar el alcance y las responsabilidades de la red social frente a esta problemática.

En respuesta a la controversia, Elon Musk abordó el tema en redes sociales y publicó una imagen generada por inteligencia artificial donde aparecía vestido con bikini. Posteriormente, el propio Musk afirmó que la compañía X se encuentra implementando medidas destinadas a erradicar el contenido ilegal en la plataforma, incluyendo la eliminación de materiales vinculados al abuso sexual infantil, según consignó EFE.

Desde la coalición de fiscales, la exigencia busca una mayor claridad y transparencia sobre las acciones que emprenderá xAI para limitar la generación, edición y propagación de imágenes no consentidas en el entorno de X. Además de las demandas de información, la carta incorpora una advertencia acerca de riesgos latentes para la infancia y para las mujeres, y plantea la necesidad de establecer controles efectivos, sanciones y mecanismos verificables para impedir la reincidencia, como recogió EFE.

El llamado a las empresas tecnológicas apunta a que sus responsables asuman compromisos formales y públicos ante una amenaza que combina los desafíos de la automatización, la privacidad y la protección de derechos individuales frente al avance de sistemas de inteligencia artificial capaces de generar representaciones visuales de alto impacto. El desarrollo de estas herramientas, sumado a las posibilidades de edición y manipulación por parte de los usuarios, plantea interrogantes sobre los límites legales y éticos en la utilización de plataformas de IA generativa como Grok, según la información publicada por la agencia EFE.

La acción coordinada de los fiscales generales refleja la preocupación de las autoridades estadounidenses frente a la insuficiencia de salvaguardias y la urgencia de establecer normas claras en materia de protección digital. El caso de Grok y la respuesta institucional en curso se inscriben en una agenda más amplia de regulaciones sobre tecnologías emergentes y derechos digitales, tal como reportó EFE.