Grok, el sistema de inteligencia artificial desarrollado por xAI para la red social X, afronta un cambio de rumbo tras una oleada de críticas y problemas judiciales en distintas partes del mundo. Desde hace pocos días, la herramienta ya no permite a sus usuarios crear ni modificar imágenes de personas reales para mostrar semidesnudos o prendas reveladoras como bikinis.
Esta decisión, anunciada por la propia compañía a través de sus canales oficiales, responde a la presión social, mediática y legal que ha caído sobre la plataforma de Elon Musk.
Qué cambia en Grok y para quién
La función de generación de imágenes de Grok se había convertido en un foco de controversia. Cualquier usuario podía solicitar la creación o edición de fotos de personas reales, muchas veces sin su consentimiento. Esto llevó a una proliferación de imágenes sexualizadas, tanto de figuras públicas como de personas anónimas, y derivó en una respuesta contundente por parte de la empresa.
De acuerdo con los anuncios de X y xAI, se han implementado medidas tecnológicas para evitar que la cuenta @Grok permita editar imágenes de personas reales en ropa reveladora, como bikinis. La compañía aclara que esta restricción afecta a todos los usuarios, incluidos los suscriptores de pago.
De este modo, la posibilidad de crear o manipular imágenes mediante la mención a la cuenta Grok en X queda limitada a los suscriptores, lo que pretende facilitar la rendición de cuentas si se abusa de la herramienta.
La medida también incorpora bloqueos geográficos. Según la propia X, se ha “geobloqueado la capacidad de todos los usuarios para generar imágenes de personas reales en bikini, ropa interior y prendas similares en aquellas jurisdicciones donde es ilegal”.
A pesar de las restricciones, medios como The Verge han comprobado que aún es posible generar imágenes semidesnudas, lo que pone en duda la eficacia inmediata de las nuevas barreras tecnológicas. Según sus pruebas, usando una cuenta gratuita, los periodistas lograron crear imágenes de personas en bikini, incluso después de la supuesta entrada en vigor de la restricción.
Por qué tuvieron que hacer estos cambios en Grok
La decisión de limitar la capacidad de Grok para crear imágenes sexualizadas surge en un contexto de amplia presión social y legal. La comunidad científica, varias figuras públicas y numerosos usuarios anónimos habían denunciado el uso de la inteligencia artificial para la generación de imágenes no consentidas, calificando la práctica de invasiva y sexualizante. El problema no solo afectaba a celebridades, sino también a menores y adultos ajenos a la vida pública.
En paralelo a las quejas sociales, se abrieron procesos judiciales y medidas legales en varias partes del mundo. Malasia e Indonesia fueron los primeros países en prohibir el uso de Grok por la creación de imágenes desnudas o semidesnudas.
En Francia, Reino Unido, Australia, Irlanda e India, así como en el ámbito de la Comisión Europea, se han anunciado investigaciones contra X, muchas de ellas centradas en la generación de imágenes sexualizadas o “deepfakes” de menores.
En el Reino Unido, el regulador de comunicaciones Ofcom abrió una investigación, mientras que el gobierno británico impulsa una ley que convierte en delito la creación de imágenes íntimas “deepfake” no consentidas.
El primer ministro Keir Starmer declaró que X está tomando medidas para “asegurar el pleno cumplimiento de la ley británica”, aunque aclaró que el gobierno no bajará la guardia y exigirá resultados verificables.
El comunicado oficial de X subraya el compromiso con la seguridad y la “tolerancia cero” ante la explotación sexual infantil, la desnudez no consentida y cualquier contenido sexual no deseado. La empresa asegura que elimina contenido violatorio de manera prioritaria, reporta cuentas que buscan material de explotación sexual infantil y colabora activamente con las autoridades legales.
Últimas Noticias
Google resolvió el problema que más cuesta en la IA y casi nadie lo notó
El cuello de botella no es la inteligencia. Es la factura. La técnica desarrollada reduce drásticamente el uso de recursos en cada interacción con sistemas avanzados, transforma la economía de los asistentes digitales y amplía el acceso a la tecnología
OpenAI suspende por tiempo indefinido su versión de ChatGPT erótico
A OpenAI y sus inversores les inquieta que la IA, útil para crear imágenes creativas, también pueda generar contenido ilegal
¿No actualizaste a Windows 11? Así podrás pasarte al sistema operativo de Google
La iniciativa pretende evitar que miles de computadoras obsoletas terminen como residuos electrónicos
El impresionante récord de Chery que hace temblar a las marcas tradicionales y acelera su expansión global
Con 6 millones de autos vendidos en el exterior y un crecimiento del 378% en Colombia en febrero de 2026, Chery deja de ser una promesa para convertirse en la fuerza que domina el mercado global este año
“Las redes sociales son el tabaco del siglo XXI”, advirtió un divulgador tecnológico tras el fallo contra Meta y YouTube
El especialista Joan Cwaik analizó en Infobae a la Tarde el impacto de las recientes condenas a Meta y YouTube por los mecanismos adictivos de sus plataformas, y alertó sobre la falta de regulación para proteger a los menores en la Argentina
