Citlalli Hernández Mora acusa falta de filtros en la IA Grok ante casos de violencia digital contra las mujeres

El avance de la inteligencia artificial y su integración en plataformas digitales ha planteado nuevos retos en materia de violencia digital contra las mujeres. Las recientes denuncias sobre el uso de la IA Grok para manipular imágenes sin consentimiento han encendido alertas en organismos públicos, pero sobre todo en miles de mujeres que usan la red social X, quienes exigen acciones concretas para frenar la reproducción de agresiones en línea.

Preocupación oficial ante la violencia digital de género

La Secretaría de las Mujeres de la Ciudad de México expresó su inquietud por el uso de la herramienta de IA Grok, desarrollada por xAI y empleada en la red social X (antes Twitter), para crear y difundir imágenes sexualizadas de mujeres sin su consentimiento.

La titular, Citlalli Hernández Mora, señaló que en las últimas semanas se han detectado casos en los que usuarios de X solicitan a Grok la edición de fotos para “imágenes semidesnudas” o de “carácter sexual”, lo que constituye una violación a la intimidad y una forma de violencia de género.

Hernández Mora subrayó que estas acciones están sancionadas por la Ley Olimpia, que prohíbe la difusión de contenido íntimo real o simulado sin autorización.

Falta de filtros y responsabilidad de las plataformas

La funcionaria criticó la ausencia de filtros eficaces en Grok, lo que ha permitido la generación y publicación de imágenes manipuladas en hilos públicos dentro de X. A diferencia de otros sistemas de IA como ChatGPT o Gemini, Grok muestra un menor nivel de restricciones y ha incumplido peticiones explícitas, limitándose solo ante solicitudes de desnudos totales.

Según Hernández Mora, la Secretaría ha buscado colaboración con diferentes empresas digitales para fortalecer la protección de los derechos de las mujeres en línea. Sin embargo, la respuesta de la plataforma X ha sido insuficiente, pues la empresa no cuenta con oficinas en México y ha evitado reuniones formales sobre el tema.

Hernández Mora afirmó que la falta de presencia local no exime a ninguna firma tecnológica de cumplir con sus obligaciones legales y éticas hacia las usuarias mexicanas.

Llamado a la acción y cultura digital igualitaria

Desde la Secretaría de las Mujeres, se insistió en la urgencia de que todas las plataformas digitales adopten medidas activas para prevenir la violencia sexual digital. Hernández Mora reiteró la disposición de su dependencia para colaborar con X y mejorar los filtros de Grok, evitando que la tecnología perpetúe dinámicas machistas y violaciones a la privacidad de las mujeres.

La funcionaria enfatizó que lograr un entorno digital seguro requiere la participación tanto de empresas como de la sociedad en su conjunto, para construir una convivencia basada en la igualdad y el respeto.

Puntos clave sobre la polémica de Grok y la violencia digital

• Grok ha generado imágenes sexualizadas de mujeres sin consentimiento, lo que constituye violencia digital de género.
• La Ley Olimpia sanciona la creación y difusión de contenido íntimo real o simulado sin autorización.
• La Secretaría de las Mujeres ha solicitado a X asumir su responsabilidad y reforzar los filtros de seguridad de Grok.
• La plataforma X, sin oficinas en México, no ha respondido de forma efectiva a las autoridades locales.
• El compromiso institucional es lograr que la justicia y la perspectiva de género se apliquen también en el entorno digital.