Elon Musk toma medidas legales: xAI demanda a un hombre por crear deepfakes de abuso infantil con Grok

xAI, la empresa de inteligencia artificial de Elon Musk, demandó a un hombre por haber utilizado Grok, su inteligencia artificial, para generar material de abuso sexual infantil.

Según el escrito judicial, el acusado “deliberada e intencionalmente utilizó Grok para eludir las salvaguardas, alterar imágenes sin consentimiento, y generar y distribuir material de abuso sexual infantil”, en violación de los términos de servicio de la compañía.

La demanda fue presentada el 14 de julio ante un tribunal federal en Texas.

El acusado ya enfrentaba cargos penales

Harwood fue arrestado en febrero por posesión y distribución de material de abuso sexual infantil y enfrenta ocho cargos penales.

La demanda civil de xAI sostiene que “al menos algunas” de las imágenes vinculadas a esos cargos “fueron generadas o alteradas” con Grok, y que el acusado “abusó de la herramienta para convertir fotografías no sexuales en imágenes sexualmente explícitas” sin el consentimiento de las personas retratadas, entre ellas menores de edad.

Según la demanda, Harwood creó múltiples cuentas en xAI y empleó “instrucciones engañosas” para fabricar deepfakes explícitos de adultos y menores.

La compañía alega que diseñó esas instrucciones con el propósito de “evadir” los sistemas de protección integrados en la plataforma para impedir la generación de contenido explícito con menores.

En el escrito judicial, xAI detalló el alcance de sus medidas internas: la compañía suspendió 52.222 cuentas y realizó 73.604 reportes al Centro Nacional para Menores Desaparecidos y Explotados (NCMEC, por sus siglas en inglés) durante 2026, lo que derivó en al menos 244 arrestos.

Qué pide xAI al tribunal

La empresa solicitó al juez una orden que prohíba a Harwood de forma permanente crear cuentas en xAI o utilizar Grok, además de una compensación económica por daños no especificados.

La demanda también reclama el reembolso de “los gastos razonables en que incurra la empresa al defenderse en cualquier acción legal iniciada por una víctima de la conducta del demandado”.

“Las acciones del demandado constituyeron un plan calculado para weaponizar la herramienta de la empresa con fines criminales, exponiendo a víctimas reales a un daño profundo y duradero, al tiempo que exponía a la empresa a un riesgo legal significativo y a daños reputacionales”, sostuvo xAI en la demanda.

En qué momento Grok realiza la demanda

La demanda llega tras meses de críticas internacionales a xAI por las capacidades de Grok para generar deepfakes sexualizados sin consentimiento.

Tras incorporar un modo denominado “picante” y la función de edición de imágenes, el chatbot fue señalado por producir imágenes sexualizadas de menores.

Musk respondió públicamente con una advertencia: “Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”. La acción contra Harwood sería la primera vez que xAI concreta esa amenaza en los tribunales.