India le da 72 horas a Elon Musk para corregir a su IA Grok por generar contenido “obsceno”

El Ministerio de Tecnología de la Información de India ha dado a X, plataforma de Elon Musk, un plazo de 72 horas para introducir cambios técnicos y procesales en su chatbot de inteligencia artificial Grok.

La carta oficial, revisada por TechCrunch, exige que la plataforma presente un informe detallando las medidas adoptadas dentro de ese periodo, bajo amenaza de acciones legales y la posible pérdida de la inmunidad legal por contenido generado por usuarios.

La orden responde a denuncias de usuarios y a una queja formal elevada por la parlamentaria Priyanka Chaturvedi, referentes a imágenes alteradas por IA a través de Grok, principalmente fotos de mujeres modificadas digitalmente para simular vestimenta de bikini. Asimismo, se señalaron casos donde la herramienta generó contenido sexualizado de menores, lo que llevó a X a reconocer fallos en sus filtros de protección.

A pesar de la intervención gubernamental, algunas imágenes creadas mediante Grok en las que mujeres aparecen alteradas mediante IA seguían disponibles en X el 2 de enero de 2026. En el documento, el ministerio demandó restringir cualquier contenido que implique desnudez, sexualización, material sexualmente explícito o que infrinja la ley, advirtiendo que la omisión de estas medidas podría acarrear sanciones para la plataforma, sus administradores y los usuarios involucrados.

El gobierno de India recalcó que cualquier incumplimiento “se considerará grave y puede resultar en consecuencias legales estrictas contra su plataforma, los responsables y quienes infrinjan la ley, sin previo aviso adicional”. Las autoridades recordaron que la protección de inmunidad legal se sostiene siempre que las plataformas respeten las normativas nacionales sobre la difusión de contenido obsceno y sexualmente explícito.

La decisión llegó pocos días después de una advertencia a plataformas digitales, donde el Ministerio de Tecnología subrayó la obligación de reforzar los controles internos y cumplir la legislación india. Dicha advertencia reiteró que desestimar estas exigencias puede activar sanciones conforme a la Ley de Tecnologías de la Información y al código penal del país.

Portavoces de X y de xAI, la empresa responsable de Grok, no respondieron a la solicitud de comentarios sobre la orden, según reportó TechCrunch. Sin embargo, X ha reconocido anteriormente que retira imágenes sexualizadas de menores y sostiene un litigio con el gobierno indio respecto a los límites de la regulación local sobre contenido sensible.

El incremento del uso de Grok para la verificación de datos en tiempo real y comentarios sobre sucesos noticiosos ha amplificado su presencia entre la comunidad de X, intensificando así el debate sobre la responsabilidad de plataformas frente al contenido generado por sistemas de inteligencia artificial.

La actuación del gobierno indio ilustra hasta qué punto los estados están dispuestos a exigir garantías a las plataformas tecnológicas respecto al control del contenido creado por inteligencia artificial, en un entorno digital de vigilancia y supervisión creciente.

Quejas de usuarios de X

Los contenidos de Grok vinculados a la objetificación de las mujeres no han causado malestar solo en India. Usuarios de X han denunciado. Esta tendencia, impulsada por suscriptores Premium, ha provocado reclamos en la plataforma y llamados a implementar mayores restricciones y eliminar este tipo de contenido.

Ejemplos como el de Samantha Smith, quien vio una foto suya transformada en una imagen en bikini sin su consentimiento, han generado indignación y una discusión sobre la privacidad y el respeto en el uso de estas tecnologías.

Ante la polémica, figuras públicas y otros usuarios han exigido a Elon Musk, dueño de la red social, que tome medidas para evitar estas prácticas, calificándolas como una violación de la privacidad y no como avances en innovación.

Musk, lejos de ignorar la controversia, participó pidiendo a Grok que creara una imagen suya en bikini, a lo cual la IA accedió sin problemas.