xAI, la empresa fundada por Elon Musk, decidió restringir la edición de imágenes en Grok tras la polémica por la generación de deepfakes sexualizados sin consentimiento. La medida llega luego de que el chatbot de IA fuera protagonista de un escándalo internacional, al permitir la creación de imágenes manipuladas de cualquier persona, lo que generó una ola de indignación global y respuestas tajantes de gobiernos y organismos reguladores.
Grok y la polémica: límites a la edición de imágenes tras los deepfakes sexualizados
El detonante de la crisis fue la aparición de una función en Grok que facilitaba la manipulación de imágenes, permitiendo desnudar digitalmente a personas sin su consentimiento. Usuarios de la plataforma pudieron crear imágenes hiperrealistas de mujeres y menores con bikinis diminutos y en posturas sexualizadas, incluso con signos de violencia como moretones.
Esta situación generó graves cuestionamientos sobre el uso ético de la inteligencia artificial y los riesgos asociados a la privacidad y la dignidad de las personas.
Frente a la polémica, xAI anunció la implementación de “medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis”. La empresa aclaró que “esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago”.
Además, la generación de otros tipos de imágenes quedó limitada exclusivamente a quienes abonen una suscripción, con el objetivo de identificar a quienes hagan un uso indebido de la herramienta.
El propio Elon Musk intervino para intentar calmar la situación, informando sobre una restricción parcial que limitaba la creación de desnudos a los suscriptores. Según sus declaraciones, el sistema permitiría así la trazabilidad de los usuarios y una mayor capacidad de respuesta ante posibles abusos.
Reacciones internacionales ante los deepfakes de Grok
La indignación por el uso de Grok para crear deepfakes sexualizados no tardó en extenderse a nivel mundial. Miles de personas denunciaron que la inteligencia artificial estaba siendo utilizada para perpetuar la violencia sexual, especialmente contra colectivos que ya sufren este tipo de agresiones fuera del ámbito digital.
A raíz del escándalo, distintos gobiernos y organismos de control tomaron medidas contundentes. Malasia e Indonesia optaron por prohibir directamente el acceso a Grok. En otros países, como España, Estados Unidos y Australia, las autoridades abrieron investigaciones judiciales ante la sospecha de delitos relacionados con pornografía infantil.
xAI, por su parte, aseguró que “toma medidas” para eliminar cualquier contenido que implique abuso sexual infantil. Musk afirmó públicamente que “no tenía conocimiento de ninguna imagen de menores desnudos generada por Grok”, aunque la empresa reforzó su compromiso para actuar ante este tipo de materiales.
Medidas de xAI y Musk para frenar los abusos en Grok
La respuesta de xAI incluyó la adopción de filtros tecnológicos para bloquear la edición de imágenes de personas reales con ropa sugerente, como bikinis. La compañía detalló en una publicación a través de X que la restricción se extendería a todos los usuarios y que la generación de imágenes, en general, quedaría reservada a quienes cuenten con una suscripción paga.
Con esta decisión, xAI busca frenar el uso indebido de Grok para crear deepfakes sexualizados y responder a la presión social y política derivada de los recientes acontecimientos. Además, la empresa plantea que la identificación de los suscriptores permitirá actuar con mayor eficacia ante posibles delitos o violaciones de la normativa vigente.
Qué es Grok, el chatbot de inteligencia artificial de xAI
Grok es un chatbot de inteligencia artificial desarrollado por la empresa xAI, propiedad de Elon Musk. Su diseño permite mantener conversaciones, responder preguntas complejas y generar contenido visual a partir de las indicaciones del usuario, utilizando técnicas avanzadas de procesamiento de lenguaje natural e imagen.
A diferencia de otros asistentes virtuales, Grok destaca por su capacidad para crear imágenes realistas, interpretar información de contexto y adaptarse a múltiples aplicaciones. Esta versatilidad lo ha posicionado rápidamente en el mercado, aunque también lo ha puesto en el centro de debates sobre los límites éticos y legales de la inteligencia artificial.