El avance de la inteligencia artificial y su integración en plataformas digitales ha planteado nuevos retos en materia de violencia digital contra las mujeres. Las recientes denuncias sobre el uso de la IA Grok para manipular imágenes sin consentimiento han encendido alertas en organismos públicos, pero sobre todo en miles de mujeres que usan la red social X, quienes exigen acciones concretas para frenar la reproducción de agresiones en línea.
Preocupación oficial ante la violencia digital de género
La Secretaría de las Mujeres de la Ciudad de México expresó su inquietud por el uso de la herramienta de IA Grok, desarrollada por xAI y empleada en la red social X (antes Twitter), para crear y difundir imágenes sexualizadas de mujeres sin su consentimiento.
PUBLICIDAD
La titular, Citlalli Hernández Mora, señaló que en las últimas semanas se han detectado casos en los que usuarios de X solicitan a Grok la edición de fotos para “imágenes semidesnudas” o de “carácter sexual”, lo que constituye una violación a la intimidad y una forma de violencia de género.
Hernández Mora subrayó que estas acciones están sancionadas por la Ley Olimpia, que prohíbe la difusión de contenido íntimo real o simulado sin autorización.
Falta de filtros y responsabilidad de las plataformas
La funcionaria criticó la ausencia de filtros eficaces en Grok, lo que ha permitido la generación y publicación de imágenes manipuladas en hilos públicos dentro de X. A diferencia de otros sistemas de IA como ChatGPT o Gemini, Grok muestra un menor nivel de restricciones y ha incumplido peticiones explícitas, limitándose solo ante solicitudes de desnudos totales.
PUBLICIDAD
Según Hernández Mora, la Secretaría ha buscado colaboración con diferentes empresas digitales para fortalecer la protección de los derechos de las mujeres en línea. Sin embargo, la respuesta de la plataforma X ha sido insuficiente, pues la empresa no cuenta con oficinas en México y ha evitado reuniones formales sobre el tema.
Hernández Mora afirmó que la falta de presencia local no exime a ninguna firma tecnológica de cumplir con sus obligaciones legales y éticas hacia las usuarias mexicanas.
Llamado a la acción y cultura digital igualitaria
Desde la Secretaría de las Mujeres, se insistió en la urgencia de que todas las plataformas digitales adopten medidas activas para prevenir la violencia sexual digital. Hernández Mora reiteró la disposición de su dependencia para colaborar con X y mejorar los filtros de Grok, evitando que la tecnología perpetúe dinámicas machistas y violaciones a la privacidad de las mujeres.
PUBLICIDAD
La funcionaria enfatizó que lograr un entorno digital seguro requiere la participación tanto de empresas como de la sociedad en su conjunto, para construir una convivencia basada en la igualdad y el respeto.
Puntos clave sobre la polémica de Grok y la violencia digital
- Grok ha generado imágenes sexualizadas de mujeres sin consentimiento, lo que constituye violencia digital de género.
- La Ley Olimpia sanciona la creación y difusión de contenido íntimo real o simulado sin autorización.
- La Secretaría de las Mujeres ha solicitado a X asumir su responsabilidad y reforzar los filtros de seguridad de Grok.
- La plataforma X, sin oficinas en México, no ha respondido de forma efectiva a las autoridades locales.
- El compromiso institucional es lograr que la justicia y la perspectiva de género se apliquen también en el entorno digital.
PUBLICIDAD
PUBLICIDAD
Más Noticias
Clima en Culiacán Rosales: conoce el pronóstico y prepárate antes de salir
La temperatura más baja registrada en el país fue la del 27 de diciembre de 1997, cuando el termómetro descendió hasta los -25 grados
Clima en Santiago Ixcuintla: cuál será la temperatura máxima y mínima este 15 de noviembre
Debido a su ubicación geográfica, que le dan una gran variedad de climas, México es uno de los países con mayor biodiversidad y es hogar de al menos 12% de las especies del mundo
Clima: las temperaturas que predominarán este 15 de noviembre en Bahía de Banderas
La temperatura más baja registrada en el territorio mexicano fue la del 27 de diciembre de 1997, cuando el termómetro disminuyó hasta los -25 grados
Adiós a la incertidumbre, conoce las condiciones climáticas en Acapulco de Juárez este 15 de noviembre
La temperatura más baja registrada en el territorio mexicano fue la del 27 de diciembre de 1997, cuando el termómetro disminuyó hasta los -25 grados
Clima en Mérida: temperatura y probabilidad de lluvia para este domingo 15 de noviembre
La temperatura más baja registrada en el territorio mexicano fue la del 27 de diciembre de 1997, cuando el termómetro disminuyó hasta los -25 grados
