La empresa de inteligencia artificial XAI, propiedad de Elon Musk, restringió la función de generación de imágenes de Grok para la mayoría de los usuarios en la plataforma X. La medida se tomó luego de múltiples denuncias por la creación de contenido sexualizado, incluidas imágenes de mujeres y menores de edad, según detalló Bloomberg.
Las alertas se multiplicaron cuando se detectó el uso de la herramienta para modificar fotografías reales y producir imágenes no consentidas que circulaban en la red. A partir del viernes 9 de enero de 2026, solo los usuarios con suscripción paga pueden generar o editar imágenes con Grok en X. Hasta esa fecha, la función estaba disponible sin costo para usuarios con ciertos límites diarios de uso. Bloomberg precisó que la restricción impuesta por X no afecta a la aplicación independiente de Grok, donde la generación de imágenes sigue habilitada sin cargos adicionales.
El motivo de la medida fue la utilización de la IA generativa para transformar fotografías de personas, principalmente mujeres, con el objetivo de exhibirlas en malla o desnudas. Además, varios usuarios manipularon Grok para crear imágenes sexualizadas de mujeres y niños, la mayoría generadas sin consentimiento de las personas involucradas.
De acuerdo con Bloomberg, la herramienta fue empleada para crear miles de imágenes no consentidas por hora, lo que generó preocupación entre expertos en seguridad digital y defensores de derechos.
Críticas y reacciones políticas ante la decisión de XAI
La reacción política fue inmediata. La oficina del primer ministro británico, Keir Starmer, a través de un portavoz, criticó que la limitación “Simplemente transforma una función de inteligencia artificial que permite crear imágenes ilegales en un servicio de pago” y sostuvo que esto “No es una solución”.
Además, consideró que la medida representa “Un insulto a las víctimas de misoginia y violencia sexual”, publicó Bloomberg. El debate en el Reino Unido se intensificó debido al temor de que la monetización de estas herramientas no detenga la proliferación de contenido ilícito y, en cambio, lo traslade a un segmento restringido, pero no necesariamente más seguro.
La Internet Watch Foundation, organismo vinculado al gobierno británico encargado de identificar material de abuso sexual infantil, informó que localizó imágenes generadas por Grok, calificadas como “criminales”, en la web oscura. Starmer destacó que el regulador británico Ofcom cuenta con el respaldo total del Estado para actuar ante estos problemas, y se espera que se refuercen los controles y sanciones sobre las plataformas digitales.
Por su parte, Elon Musk publicó en X: “Cualquier usuario que utilice Grok para crear contenido ilegal enfrentará las mismas consecuencias que si subiera contenido ilegal a la plataforma”.
Bloomberg indicó que, hasta el momento, una portavoz de XAI evitó profundizar sobre nuevas medidas y recordó que las normas de X ya prohíben la publicación de material de abuso sexual infantil. No obstante, varios especialistas en tecnología señalaron que los mecanismos de detección y control aún presentan limitaciones.
Perspectiva europea y advertencias regulatorias
Desde la Comisión Europea se ordenó a X conservar todos los documentos internos relacionados con Grok hasta fin de año, en el marco de investigaciones abiertas sobre la gestión de imágenes generadas por inteligencia artificial.
Un portavoz del organismo, citado por Bloomberg, subrayó que la Unión Europea condena la existencia de imágenes ilícitas, especialmente cuando involucran a menores, y advirtió que las plataformas que no eliminen ese contenido de forma proactiva podrían enfrentar sanciones o bloqueos. El bloque comunitario evalúa endurecer su marco normativo frente al desarrollo acelerado de la IA y la circulación de contenido sensible en línea.
Impacto en la plataforma y desafíos para la inteligencia artificial
En cuanto al alcance de la plataforma, X dejó de publicar cifras detalladas sobre usuarios activos mensuales y pagos. El último dato disponible, de marzo de 2024, indicaba 550 millones de usuarios mensuales, aunque solo una fracción accede mediante suscripción a funciones avanzadas como la generación de imágenes por IA. Expertos advierten que el modelo de acceso restringido podría alimentar un mercado paralelo de contenido ilegal, dificultando aún más su rastreo y eliminación.
El caso refleja la capacidad de grandes plataformas como X para modificar sus mecanismos y políticas de manera rápida ante la presión política y social, aunque estas respuestas no siempre resuelvan los problemas de fondo relacionados con el uso indebido de la inteligencia artificial.
Organizaciones de derechos digitales y entidades regulatorias coinciden en la necesidad de fortalecer los controles, promover la transparencia en el uso de algoritmos y garantizar protección efectiva para las víctimas de contenido no consentido. La discusión continúa abierta a nivel internacional sobre el equilibrio entre innovación tecnológica y responsabilidad social en el desarrollo de la IA.
Últimas Noticias
Todo sobre los nuevos Pokémon Winds y Pokémon Waves: fecha de lanzamiento y llegada a Nintendo Switch 2
Esta generación anticipa una región inédita, con exploración terrestre y submarina gracias a las capacidades de la nueva consola
Escándalo en el equipo de trabajo de MrBeast: multan a su editor por tráfico de información privilegiada
Uno de los colaboradores de MrBeast fue sancionado luego de que se comprobara que empleó información confidencial obtenida en su trabajo para apostar en el mercado de predicciones Kalshi
PlayStation y Microsoft ya habrían sido notificados: GTA 6 no tendrá más retrasos
La próxima entrega de Grand Theft Auto sigue firme, para tranquilidad de muchos estudios y sus lanzamientos
Antes de la llegada de los therians: estas redes sociales te permitían ser un perro o un gato usando filtros
Filtros, avatares y realidad aumentada ya permitían experimentar con identidades animales mucho antes de que estas prácticas se viralizaran
Advierten que “ya hemos agotado todo el conocimiento humano” para entrenar a la IA
Pep Martorell, experto en IA, asegura que la mayoría de los libros, artículos y tesis han sido incorporados a los sistemas avanzados de entrenamiento
