Por qué los expertos exigen límites urgentes para Grok, la IA de Musk: un daño invisible de la IA

La integración de Grok, la inteligencia artificial generativa desarrollada por xAI y desplegada en la red social X, desencadenó cuestionamientos por la exposición de menores de edad a riesgos graves de abuso digital. Reportes recientes advirtieron que la facilidad para manipular imágenes y la falta de controles efectivos reabrió el debate sobre la responsabilidad de las plataformas ante daños sociales.

A finales de diciembre de 2025, xAI incorporó en X una función que permite editar imágenes mediante instrucciones de texto. Presentada como un recurso creativo, la herramienta habilitó también la manipulación de fotos de personas reales para sexualizarlas o desvestirlas digitalmente sin autorización. Reportes del Centro para Contrarrestar el Odio Digital (CCDH) indicaron que el sistema generó cerca de tres millones de imágenes sexualizadas fotorrealistas en once días, con un promedio de 190 archivos por minuto.

El fenómeno se extendió más allá de figuras públicas e incluyó a usuarias anónimas, adolescentes y jóvenes cuyas imágenes se reutilizaron sin consentimiento. El CCDH estimó que alrededor de 0,5% del material correspondía a menores de edad, equivalente a más de 23.000 archivos. Aunque X anunció restricciones y remociones, parte del contenido siguió circulando, lo que reforzó las críticas sobre la eficacia de sus mecanismos de moderación.

Restricciones y fallas de moderación

Ante la presión pública, X restringió el acceso a la edición y generación de imágenes para usuarios gratuitos, y dejó esas funciones para cuentas pagas. Especialistas y organizaciones civiles señalaron que condicionar el uso a una suscripción no constituye una política integral de prevención, detección y reparación del daño.

Investigaciones periodísticas posteriores indicaron que algunos usuarios sin suscripción mantuvieron acceso, mientras pruebas externas detectaron respuestas problemáticas del sistema ante pedidos de imágenes humillantes o no consentidas.

Desde la gobernanza tecnológica, el caso expuso una tensión central: las plataformas no pueden delegar en el usuario final la responsabilidad exclusiva por daños previsibles de herramientas diseñadas, distribuidas y monetizadas por las propias empresas.

Multa en Australia y debate regulatorio

La controversia por la gestión de contenido ilegal en X tuvo repercusiones legales en Australia. Allí, la justicia federal impuso a X Corp una multa de 650.000 dólares australianos tras un proceso iniciado por la autoridad de seguridad digital, eSafety, a partir de un requerimiento para que la plataforma informara sus medidas contra material de abuso y explotación sexual infantil.

La falta de cooperación suficiente derivó en la sanción y en un mensaje institucional: las plataformas globales deben acatar normas locales cuando operan en esos mercados. Durante el juicio, la empresa argumentó que Twitter Inc. dejó de existir tras fusionarse con X Corp, pero la justicia rechazó esa postura y sostuvo que la reorganización societaria no la exime de obligaciones regulatorias en seguridad infantil.

Riesgos previsibles y consecuencias en las víctimas

Desde la ciberseguridad, el debate se enfocó en la responsabilidad de las compañías al lanzar productos que pueden amplificar ataques, hostigamiento o violencia digital. David González, investigador de Seguridad Informática de ESET Latinoamérica, advirtió al portal Economía Sustentable sobre los riesgos del despliegue acelerado de la inteligencia artificial generativa y la falta de regulación.

González subrayó que la IA generativa facilita conductas dañinas: usuarios sin conocimientos avanzados pueden crear imágenes manipuladas o automatizar ataques digitales. “Cualquier avance tecnológico debería usarse con responsabilidad. Actualmente, más de 80% de los dispositivos que se conectan a Internet no cuenta con ningún tipo de seguridad”, informó al mencionado portal.

Sobre Grok, agregó que la prevención debe estar desde el diseño: “La empresa desarrolladora tiene una responsabilidad directa tanto en el diseño como en el despliegue de la herramienta”, con filtros, límites y mecanismos de detección de abusos.

El daño por imágenes manipuladas se traduce en consecuencias reales: afecta intimidad, reputación y confianza. En adolescentes y menores, el impacto se agrava por presión escolar, viralización y la dificultad de borrar el contenido de la red.