Secretaría de las Mujeres celebra cambios en IA Grok para evitar violencia digital tras denuncias de casos

Citlalli Hernández, secretaria de las Mujeres, celebró que la actualización de las funciones de la Inteligencia Artificial Grok, de la red social X, para evitar la violencia digital ante las recientes denuncias de que la herramienta facilitó la manipulación de imágenes reales para crear contenido sexual, sin el consentimiento de quienes aparecen en ellas.

En su cuenta de X, la funcionaria federal republicó el anuncio sobre los cambios en la herramienta, entre los cuales destaca que la IA ya no podrá editar imágenes de personas reales para mostrarlas en ropa íntima o en bikini.

“Celebramos las recientes actualizaciones de @grok: Implementan medidas tecnológicas para evitar la edición de imágenes de personas reales con ropa íntima, como bikinis. Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago”, escribió en al red social.

En la misma publicación, Hernández Mora reiteró el llamado a que el entorno digital no sea una extensión de la violencia machista ni se utilice para el acoso sexual.

“Desde la Secretaría de @mujeresgobmx reafirmamos nuestra convicción de que el entorno digital no debe ser una extensión de la violencia machista ni un refugio para el acoso sexual”, concluyó.

De acuerdo con el anunció que republicó la secretaria de las Mujeres, otra de las medidas contra la violencia digital que se aplicarán para Grok está la “eliminación de contenido “infractor de alta prioridad” y del “contenido sexual no consensuado”.

Compromiso de seguridad de Grok contra violencia digital

En un perfil de X, nombrado ‘Safety’, la red social reiteró su compromiso de que la plataforma sea “segura para todos”, al asegurar que mantienen su política de cero tolerancia a cualquier forma de explotación sexual infantil y el contenido sexual no consensuado.

“Mantenemos nuestro compromiso de hacer de X una plataforma segura para todos y mantenemos una política de tolerancia cero ante cualquier forma de explotación sexual infantil, desnudez no consentida y contenido sexual no deseado”, indicó.

Por ello, informó que implementarán medidas para eliminar dicho contenido infractor de alta prioridad y se actuará contra las cuentas que incumplan las reglas de la red social, además de que se denunciará ante las autoridades a los usuarios que buscan material relacionado al abuso sexual infantil.

“Tomamos medidas para eliminar contenido infractor de alta prioridad, incluyendo Material de Abuso Sexual Infantil (MASI) y desnudez no consentida, y tomamos las medidas pertinentes contra las cuentas que incumplen nuestras Reglas de X. También denunciamos a las autoridades policiales las cuentas que buscan material de Explotación Sexual Infantil, según sea necesario”, concluyó.