España elevará a la Comisión Europea evidencias técnicas contra Grok

El Observatorio de la Imagen de las Mujeres ha registrado quejas acerca del uso de aplicaciones como Grok para transformar fotos de mujeres vestidas en versiones sexualizadas sin consentimiento, según comunicó el Instituto de las Mujeres. Esta alerta se suma a acciones coordinadas y a la preparación de documentación técnica y evidencia que el Gobierno español compartirá con la Comisión Europea, en respuesta a investigaciones abiertas sobre la plataforma Grok de X —la red social anteriormente conocida como Twitter— relacionadas con la difusión de imágenes digitalmente manipuladas, incluidas aquellas que podrían involucrar abuso sexual de menores.

De acuerdo con información publicada por fuentes oficiales y recogida por el medio de comunicación proporcionado, la Agencia Española de Supervisión de Inteligencia Artificial (AESIA), dependiente del Ministerio para la Transformación Digital y de la Función Pública, se encuentra preparando evidencias técnicas y documentales con la finalidad de remitirlas a Bruselas. Así lo anunció el ministro Óscar López durante la firma de una declaración institucional junto a la ministra de Igualdad, Ana Redondo, en el marco del acto “Igualdad digital”, realizado con motivo del Día Internacional de la Mujer.

Según consignó el medio original, la AESIA remitirá sus resultados tanto a la Comisión Europea como a la Oficina Europea de Inteligencia Artificial. El objetivo es proporcionar material de apoyo que permita contribuir a las pesquisas que la Unión Europea mantiene contra la red X y su asistente virtual Grok, específicamente en lo referente al uso y distribución de imágenes sexualmente explícitas generadas o alteradas mediante inteligencia artificial.

El Instituto de las Mujeres, adscrito al Ministerio de Igualdad, elaborará también un informe detallado sobre los riesgos que presenta Grok en el contexto español. Este documento subrayará el aumento de quejas y reportes vinculados con el uso de este tipo de herramientas tecnológicas, que posibilitan, según lo indicado por el Observatorio, la transformación de imágenes privadas en contenido explícito sin el conocimiento o aprobación de las personas afectadas, quienes, en ocasiones, son menores de edad.

Durante la firma de la declaración institucional, Óscar López alertó sobre la gravedad de la situación y subrayó el papel de la colaboración europea para abordar los procedimientos en curso contra X y Grok. El ministro ejemplificó los riesgos indicando que existen casos donde personas suben videos de niñas a estas plataformas y solicitan su desnudo digital. A su juicio, esto representa un mal uso de la inteligencia artificial, en contraste con aplicaciones de la tecnología que pueden aportar beneficios en ámbitos como la investigación biomédica o sanitaria.

El evento también contó con la intervención de Ana Redondo, quien calificó la situación como “grave” y subrayó la necesidad de establecer límites y controles claros para este tipo de tecnologías. La ministra indicó que las actuales normativas resultan ambiguas ante la sofisticación y alcance de estas herramientas, lo que incrementa la vulnerabilidad digital de las mujeres y niñas.

Tal como publicó el medio citado, la coordinación entre AESIA y el Instituto de las Mujeres busca reforzar la respuesta institucional ante el auge de casos donde la inteligencia artificial es utilizada para crear representaciones falsas o manipuladas. El proceso incluye la elaboración de informes técnicos, la recopilación de evidencias y la remisión de estos documentos a las autoridades comunitarias responsables de la supervisión de inteligencia artificial.

La colaboración se enmarca en los esfuerzos europeos por establecer canales efectivos de prevención y control frente al incremento de incidentes de abuso digital. El informe del Instituto de las Mujeres pretende dar cuenta de la magnitud del problema en España y facilitar cifras, descripciones de casos y recomendaciones para la protección de los derechos digitales. AESIA, por su parte, proporcionará ejemplos y análisis técnicos capaces de sustentar futuras decisiones regulatorias.

El reporte del medio también hace referencia a la utilidad de la inteligencia artificial en contextos positivos y pone de manifiesto la preocupación del Gobierno por su utilización maliciosa. El ministro de Transformación Digital destacó la existencia de empresas españolas que desarrollan soluciones de inteligencia artificial para la investigación médica, ilustrando así los contrastes en el uso de esta tecnología. El mensaje institucional enfatizó que el desarrollo de la inteligencia artificial debe orientarse a aplicaciones constructivas, dejando de lado prácticas que violen la privacidad y la dignidad de las personas, especialmente cuando se trata de menores.

En este contexto, la colaboración entre ministerios y con las instituciones europeas trata de establecer nuevas líneas de actuación, centradas en fortalecer la supervisión y control sobre las aplicaciones digitales capaces de manipular imágenes personales. El documento firmado entre ambas carteras ministeriales establece el compromiso de remitir informes actualizados y de contribuir activamente a los procedimientos abiertos a escala europea.

Según detalló el medio original, la preocupación institucional surge tras recibir casos en los que personas utilizan herramientas como Grok para modificar contenidos multimedia, lo que deriva en un escenario de riesgo tanto para la integridad digital como para la seguridad de los propios usuarios afectados. Las acciones anunciadas buscan, por tanto, aumentar la capacidad de respuesta e incrementar la coordinación con órganos internacionales especialistas en la materia.

El texto firmado estipula que la información aportada por España contribuirá de forma directa y eficiente a la investigación europea sobre la plataforma en cuestión. El acuerdo de colaboración prevé la remisión inmediata de documentación relevante y la actualización periódica de los hallazgos y tendencias detectados en el territorio nacional.

Así, la estrategia del Gobierno español, tal como consignó el medio citado, pasa por un reforzamiento institucional frente a un contexto caracterizado por la proliferación de incidentes de abuso digital y violación de derechos en espacios virtuales. El proceso de recopilación de datos y elaboración técnica se encuentra en marcha y se concertará en coordinación con organismos supranacionales, en el marco de políticas más amplias para la protección de datos personales y el uso ético de las nuevas tecnologías.