El avance de la inteligencia artificial y su integración en plataformas digitales ha planteado nuevos retos en materia de violencia digital contra las mujeres. Las recientes denuncias sobre el uso de la IA Grok para manipular imágenes sin consentimiento han encendido alertas en organismos públicos, pero sobre todo en miles de mujeres que usan la red social X, quienes exigen acciones concretas para frenar la reproducción de agresiones en línea.
Preocupación oficial ante la violencia digital de género
La Secretaría de las Mujeres de la Ciudad de México expresó su inquietud por el uso de la herramienta de IA Grok, desarrollada por xAI y empleada en la red social X (antes Twitter), para crear y difundir imágenes sexualizadas de mujeres sin su consentimiento.
La titular, Citlalli Hernández Mora, señaló que en las últimas semanas se han detectado casos en los que usuarios de X solicitan a Grok la edición de fotos para “imágenes semidesnudas” o de “carácter sexual”, lo que constituye una violación a la intimidad y una forma de violencia de género.
Hernández Mora subrayó que estas acciones están sancionadas por la Ley Olimpia, que prohíbe la difusión de contenido íntimo real o simulado sin autorización.
Falta de filtros y responsabilidad de las plataformas
La funcionaria criticó la ausencia de filtros eficaces en Grok, lo que ha permitido la generación y publicación de imágenes manipuladas en hilos públicos dentro de X. A diferencia de otros sistemas de IA como ChatGPT o Gemini, Grok muestra un menor nivel de restricciones y ha incumplido peticiones explícitas, limitándose solo ante solicitudes de desnudos totales.
Según Hernández Mora, la Secretaría ha buscado colaboración con diferentes empresas digitales para fortalecer la protección de los derechos de las mujeres en línea. Sin embargo, la respuesta de la plataforma X ha sido insuficiente, pues la empresa no cuenta con oficinas en México y ha evitado reuniones formales sobre el tema.
Hernández Mora afirmó que la falta de presencia local no exime a ninguna firma tecnológica de cumplir con sus obligaciones legales y éticas hacia las usuarias mexicanas.
Llamado a la acción y cultura digital igualitaria
Desde la Secretaría de las Mujeres, se insistió en la urgencia de que todas las plataformas digitales adopten medidas activas para prevenir la violencia sexual digital. Hernández Mora reiteró la disposición de su dependencia para colaborar con X y mejorar los filtros de Grok, evitando que la tecnología perpetúe dinámicas machistas y violaciones a la privacidad de las mujeres.
La funcionaria enfatizó que lograr un entorno digital seguro requiere la participación tanto de empresas como de la sociedad en su conjunto, para construir una convivencia basada en la igualdad y el respeto.
Puntos clave sobre la polémica de Grok y la violencia digital
- Grok ha generado imágenes sexualizadas de mujeres sin consentimiento, lo que constituye violencia digital de género.
- La Ley Olimpia sanciona la creación y difusión de contenido íntimo real o simulado sin autorización.
- La Secretaría de las Mujeres ha solicitado a X asumir su responsabilidad y reforzar los filtros de seguridad de Grok.
- La plataforma X, sin oficinas en México, no ha respondido de forma efectiva a las autoridades locales.
- El compromiso institucional es lograr que la justicia y la perspectiva de género se apliquen también en el entorno digital.
Más Noticias
Qué dice la Ley de Rentas Justas que impulsa Clara Brugada en la CDMX
La propuesta se integra a una política más amplia de vivienda digna y rehabilitación habitacional en la Ciudad de México
Inicia campaña de vacunación contra el Sarampión en CDMX: estos son los horarios de servicio
Clara Brugada invitó a toda la población a acudir a estos centros de vacunación para prevenir el aumento de casos en la capital
Hoy No Circula de este lunes en el Valle de México y de Toluca
Que un carro pueda circular o no este lunes en la Ciudad de México y el Estado de México depende de su holograma y de la terminación de su placa
Los oscuros secretos de Los Chapitos revelados por el Mini Lic: Iván “el que no quería a sus hermanos”, Ovidio “el mandilón” y más
Dámaso López Serrano convivió desde niño con todos los hijos de Joaquín “El Chapo” Guzmán por lo que conoció sus personalidades, excesos y hasta crímenes
Gob.mx se consolida como el portal único de trámites, servicios y programas sociales
a digitalización de servicios públicos simplifica procesos y reduce espacios para la corrupción
