La empresa de inteligencia artificial XAI, propiedad de Elon Musk, restringió la función de generación de imágenes de Grok para la mayoría de los usuarios en la plataforma X. La medida se tomó luego de múltiples denuncias por la creación de contenido sexualizado, incluidas imágenes de mujeres y menores de edad, según detalló Bloomberg.
Las alertas se multiplicaron cuando se detectó el uso de la herramienta para modificar fotografías reales y producir imágenes no consentidas que circulaban en la red. A partir del viernes 9 de enero de 2026, solo los usuarios con suscripción paga pueden generar o editar imágenes con Grok en X. Hasta esa fecha, la función estaba disponible sin costo para usuarios con ciertos límites diarios de uso. Bloomberg precisó que la restricción impuesta por X no afecta a la aplicación independiente de Grok, donde la generación de imágenes sigue habilitada sin cargos adicionales.
El motivo de la medida fue la utilización de la IA generativa para transformar fotografías de personas, principalmente mujeres, con el objetivo de exhibirlas en malla o desnudas. Además, varios usuarios manipularon Grok para crear imágenes sexualizadas de mujeres y niños, la mayoría generadas sin consentimiento de las personas involucradas.
De acuerdo con Bloomberg, la herramienta fue empleada para crear miles de imágenes no consentidas por hora, lo que generó preocupación entre expertos en seguridad digital y defensores de derechos.
Críticas y reacciones políticas ante la decisión de XAI
La reacción política fue inmediata. La oficina del primer ministro británico, Keir Starmer, a través de un portavoz, criticó que la limitación “Simplemente transforma una función de inteligencia artificial que permite crear imágenes ilegales en un servicio de pago” y sostuvo que esto “No es una solución”.
Además, consideró que la medida representa “Un insulto a las víctimas de misoginia y violencia sexual”, publicó Bloomberg. El debate en el Reino Unido se intensificó debido al temor de que la monetización de estas herramientas no detenga la proliferación de contenido ilícito y, en cambio, lo traslade a un segmento restringido, pero no necesariamente más seguro.
La Internet Watch Foundation, organismo vinculado al gobierno británico encargado de identificar material de abuso sexual infantil, informó que localizó imágenes generadas por Grok, calificadas como “criminales”, en la web oscura. Starmer destacó que el regulador británico Ofcom cuenta con el respaldo total del Estado para actuar ante estos problemas, y se espera que se refuercen los controles y sanciones sobre las plataformas digitales.
Por su parte, Elon Musk publicó en X: “Cualquier usuario que utilice Grok para crear contenido ilegal enfrentará las mismas consecuencias que si subiera contenido ilegal a la plataforma”.
Bloomberg indicó que, hasta el momento, una portavoz de XAI evitó profundizar sobre nuevas medidas y recordó que las normas de X ya prohíben la publicación de material de abuso sexual infantil. No obstante, varios especialistas en tecnología señalaron que los mecanismos de detección y control aún presentan limitaciones.
Perspectiva europea y advertencias regulatorias
Desde la Comisión Europea se ordenó a X conservar todos los documentos internos relacionados con Grok hasta fin de año, en el marco de investigaciones abiertas sobre la gestión de imágenes generadas por inteligencia artificial.
Un portavoz del organismo, citado por Bloomberg, subrayó que la Unión Europea condena la existencia de imágenes ilícitas, especialmente cuando involucran a menores, y advirtió que las plataformas que no eliminen ese contenido de forma proactiva podrían enfrentar sanciones o bloqueos. El bloque comunitario evalúa endurecer su marco normativo frente al desarrollo acelerado de la IA y la circulación de contenido sensible en línea.
Impacto en la plataforma y desafíos para la inteligencia artificial
En cuanto al alcance de la plataforma, X dejó de publicar cifras detalladas sobre usuarios activos mensuales y pagos. El último dato disponible, de marzo de 2024, indicaba 550 millones de usuarios mensuales, aunque solo una fracción accede mediante suscripción a funciones avanzadas como la generación de imágenes por IA. Expertos advierten que el modelo de acceso restringido podría alimentar un mercado paralelo de contenido ilegal, dificultando aún más su rastreo y eliminación.
El caso refleja la capacidad de grandes plataformas como X para modificar sus mecanismos y políticas de manera rápida ante la presión política y social, aunque estas respuestas no siempre resuelvan los problemas de fondo relacionados con el uso indebido de la inteligencia artificial.
Organizaciones de derechos digitales y entidades regulatorias coinciden en la necesidad de fortalecer los controles, promover la transparencia en el uso de algoritmos y garantizar protección efectiva para las víctimas de contenido no consentido. La discusión continúa abierta a nivel internacional sobre el equilibrio entre innovación tecnológica y responsabilidad social en el desarrollo de la IA.
Últimas Noticias
Adiós a las macetas: el objeto de cocina que puede ser un buen recipiente para cultivar plantas
El uso de coladores viejos como macetas se consolida como una tendencia sustentable en jardines urbanos: impulsa el reciclaje y mejora el cultivo de plantas gracias a su drenaje y versatilidad
Así es la máquina que ha reemplazado a los humanos en la cosecha de manzanas en Europa
Las plantaciones de manzanas en Europa avanzan hacia la mecanización con cosechadoras automáticas
Este es el electrodoméstico moderno que podría sustituir a la freidora de aire
Ofrecen mayor capacidad y funciones avanzadas para cocinar de manera saludable y eficiente en el hogar
Los usos más extraños de la IA presentados en el CES 2026
La feria CES 2026 de Las Vegas exhibió una oleada de dispositivos con inteligencia artificial, desde suplementos para dormir hasta aspiradoras y microondas
Microsoft actualiza Word para que sea mucho más fácil agregar hipervínculos en los documentos
Con esta mejora se simplifica un proceso más en Windows, Mac y la versión web del programa
