Grok, el sistema de inteligencia artificial desarrollado por xAI para la red social X, afronta un cambio de rumbo tras una oleada de críticas y problemas judiciales en distintas partes del mundo. Desde hace pocos días, la herramienta ya no permite a sus usuarios crear ni modificar imágenes de personas reales para mostrar semidesnudos o prendas reveladoras como bikinis.
Esta decisión, anunciada por la propia compañía a través de sus canales oficiales, responde a la presión social, mediática y legal que ha caído sobre la plataforma de Elon Musk.
Qué cambia en Grok y para quién
La función de generación de imágenes de Grok se había convertido en un foco de controversia. Cualquier usuario podía solicitar la creación o edición de fotos de personas reales, muchas veces sin su consentimiento. Esto llevó a una proliferación de imágenes sexualizadas, tanto de figuras públicas como de personas anónimas, y derivó en una respuesta contundente por parte de la empresa.
De acuerdo con los anuncios de X y xAI, se han implementado medidas tecnológicas para evitar que la cuenta @Grok permita editar imágenes de personas reales en ropa reveladora, como bikinis. La compañía aclara que esta restricción afecta a todos los usuarios, incluidos los suscriptores de pago.
De este modo, la posibilidad de crear o manipular imágenes mediante la mención a la cuenta Grok en X queda limitada a los suscriptores, lo que pretende facilitar la rendición de cuentas si se abusa de la herramienta.
La medida también incorpora bloqueos geográficos. Según la propia X, se ha “geobloqueado la capacidad de todos los usuarios para generar imágenes de personas reales en bikini, ropa interior y prendas similares en aquellas jurisdicciones donde es ilegal”.
A pesar de las restricciones, medios como The Verge han comprobado que aún es posible generar imágenes semidesnudas, lo que pone en duda la eficacia inmediata de las nuevas barreras tecnológicas. Según sus pruebas, usando una cuenta gratuita, los periodistas lograron crear imágenes de personas en bikini, incluso después de la supuesta entrada en vigor de la restricción.
Por qué tuvieron que hacer estos cambios en Grok
La decisión de limitar la capacidad de Grok para crear imágenes sexualizadas surge en un contexto de amplia presión social y legal. La comunidad científica, varias figuras públicas y numerosos usuarios anónimos habían denunciado el uso de la inteligencia artificial para la generación de imágenes no consentidas, calificando la práctica de invasiva y sexualizante. El problema no solo afectaba a celebridades, sino también a menores y adultos ajenos a la vida pública.
En paralelo a las quejas sociales, se abrieron procesos judiciales y medidas legales en varias partes del mundo. Malasia e Indonesia fueron los primeros países en prohibir el uso de Grok por la creación de imágenes desnudas o semidesnudas.
En Francia, Reino Unido, Australia, Irlanda e India, así como en el ámbito de la Comisión Europea, se han anunciado investigaciones contra X, muchas de ellas centradas en la generación de imágenes sexualizadas o “deepfakes” de menores.
En el Reino Unido, el regulador de comunicaciones Ofcom abrió una investigación, mientras que el gobierno británico impulsa una ley que convierte en delito la creación de imágenes íntimas “deepfake” no consentidas.
El primer ministro Keir Starmer declaró que X está tomando medidas para “asegurar el pleno cumplimiento de la ley británica”, aunque aclaró que el gobierno no bajará la guardia y exigirá resultados verificables.
El comunicado oficial de X subraya el compromiso con la seguridad y la “tolerancia cero” ante la explotación sexual infantil, la desnudez no consentida y cualquier contenido sexual no deseado. La empresa asegura que elimina contenido violatorio de manera prioritaria, reporta cuentas que buscan material de explotación sexual infantil y colabora activamente con las autoridades legales.