Grok limita su generador de imágenes con IA tras la polémica de las fotografías sexualizadas

La decisión de limitar el acceso al generador de imágenes de Grok solo a usuarios con suscripción activa surgió tras una avalancha de solicitudes para crear o modificar imágenes consideradas explícitas o que podrían involucrar a menores, una situación que generó preocupación significativa entre distintos sectores. Bloomberg informó que, frente a este contexto, las autoridades europeas exigieron a la red social X conservar toda la documentación y los registros derivados de las actividades de Grok hasta finales de 2026, con el objetivo de facilitar investigaciones sobre posibles delitos de explotación digital infantil y protección de la infancia en el entorno tecnológico.

Según indicó Bloomberg, la Unión Europea presentó esta petición en respuesta a una serie de episodios recientes en los que se utilizó el generador de imágenes basado en inteligencia artificial para producir y difundir representaciones sexualizadas de menores de edad. Estos incidentes originaron una investigación y motivaron a los reguladores a reclamar la conservación de los archivos como posible evidencia para los procesos legales y acciones regulatorias que se desarrollan o se inicien hasta 2026.

De acuerdo con CNBC, el uso inapropiado de la herramienta Grok empezó a observarse a finales de diciembre y creció de manera considerable durante los festejos de fin de año, en particular durante Nochevieja. El fenómeno se expandió rápidamente en la plataforma X —antes conocida como Twitter—, generando alarma entre los usuarios y atrayendo la atención tanto de autoridades nacionales como internacionales.

Como medida de contención, Grok adoptó la restricción de su generador de imágenes, permitiendo el acceso únicamente a quienes cuentan con una membresía paga. Según publicó CNBC, cuando los usuarios intentan emplear el servicio para crear o modificar imágenes con connotación sexual —incluyendo la alteración de ropa sobre personas, tanto mujeres como menores—, reciben la notificación: “La creación y edición de imágenes actualmente solo está disponible para miembros de pago. Puedes suscribirte para desbloquear estas funciones”.

El Guardian reportó que el gobierno británico advirtió a X que existiría la posibilidad de una prohibición de la plataforma en el Reino Unido si la empresa dirigida por Elon Musk no implementaba medidas para frenar la propagación de imágenes sexualizadas generadas por IA. Ejemplos como el del Reino Unido ilustran la presión que ejercen distintos gobiernos nacionales ante la aparición y proliferación de contenido perjudicial utilizando tecnologías de inteligencia artificial. España también replicó este tipo de acciones: según detalló CNBC, la ministra de Juventud e Infancia, Sira Rego, pidió la intervención de la Fiscalía para investigar a Grok, con la finalidad de determinar si se cometieron delitos relacionados con la difusión de material de violencia sexual infantil.

Estas demandas, que vinculan tanto a la plataforma como a sus usuarios, buscan clarificar responsabilidades legales y promover la cooperación en la prevención y persecución del uso ilícito de tecnologías de generación de contenido visual. Bloomberg señaló que la Unión Europea condenó el empleo de Grok para la creación de imágenes que afecten a menores, y recalcó la importancia de que la empresa conserve los registros generados por la herramienta como apoyo para investigaciones contra delitos cibernéticos. La exigencia de preservación de datos pretende prevenir la desaparición de pruebas durante procedimientos judiciales relacionados con explotación infantil u otros delitos digitales.

Elon Musk se refirió públicamente al asunto mediante su cuenta en X, afirmando: “Cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”. Las directrices de xAI —la compañía a cargo de Grok— especifican la prohibición del uso del generador para producir imágenes pornográficas o sexualizadas de personas, especialmente menores de edad, y subrayan la adhesión a la legislación vigente en materia de protección infantil y lucha contra la explotación sexual.

La introducción de estas nuevas limitaciones implica un cambio en la política de X. El objetivo es reducir el alcance del generador de imágenes, de modo que la función solo quede disponible para suscriptores verificados, en un intento de controlar la distribución de contenido que se origina sin consentimiento y mitigar el potencial de abuso que ofrecen los sistemas automatizados de generación visual.

CNBC explicó que la compañía proporciona a quienes no poseen la verificación una vía de acceso mediante el pago de la suscripción. Esta política convierte al generador de imágenes de Grok en una herramienta disponible únicamente para un sector más restringido de usuarios, incrementando la trazabilidad y facilitando la identificación de autores en caso de uso indebido.

A pesar de los recientes controles, tanto las autoridades internacionales como los organismos reguladores nacionales mantienen el monitoreo sobre las acciones de X y Grok. La evolución de los procedimientos legales y el escrutinio de las respuestas corporativas continúan, junto con nuevas solicitudes para que la plataforma aclare las medidas adoptadas y muestre responsabilidad frente a la vulnerabilidad de los menores en el entorno digital.

La situación ha derivado en una intensificación de la vigilancia y el reforzamiento del enfoque sobre la responsabilidad de las empresas tecnológicas en la protección de la privacidad y la seguridad de los niños y adolescentes. La atención se dirige también a la necesidad de adaptar las leyes y normativas a las capacidades y riesgos emergentes de la inteligencia artificial aplicada a la generación de contenidos digitales.

El seguimiento de la evolución de Grok y X se mantiene como prioridad para organismos gubernamentales y sociedad civil, en la medida en que las plataformas digitales asumen un papel central en la prevención y eventual persecución de delitos asociados al uso indebido de la inteligencia artificial.