Apple pone un ultimátum a Grok: o limita las fotos sexualizadas o será retirada de la App Store

Apple advirtió a la empresa de inteligencia artificial xAI que retiraría la aplicación de su asistente Grok de la App Store si no implantaba restricciones contundentes al generador de imágenes, tras una ola de publicaciones sexualizadas de mujeres y niños que se compartieron en la red social X a principios de este año.

Esta amenaza a la continuidad de Grok en la tienda de Apple respondió al incumplimiento de las políticas de la tienda de apps, situación que se produjo luego de recibir denuncias de organismos de derechos digitales y del testimonio directo de instituciones gubernamentales. Así lo reveló una carta de la propia Apple remitida al Senado de Estados Unidos, a la que tuvo acceso el medio NBC News.

Por qué Apple advirtió a Grok de limitar la creación de contenido inapropiado

En enero de este año, alrededor de tres millones de imágenes sexualizadas generadas por Grok circularon en X a lo largo de once días, incluidas 23.000 que representaban a niños y aproximadamente 1,8 millones protagonizadas por mujeres, según un informe del Centro para la Lucha contra el Odio Digital (CCDH).

Este volumen de publicaciones provocó una oleada de reclamos que terminó por involucrar a las dos firmas responsables del funcionamiento del servicio: la propia xAI, propiedad de Elon Musk, y los grupos de moderación de la red social X.

La función que desencadenó la polémica permitía editar imágenes publicadas en X con un solo clic empleando el modelo generador de Grok, lo que facilitó la proliferación de fotos manipuladas sin consentimiento.

Las versiones generadas variaban entre la modificación de vestimenta, agregando bikinis o prendas sugestivas, y la colocación de mujeres y menores en posturas sexualizadas.

Esta dinámica impulsó a organizaciones defensoras de la infancia y de los derechos de las mujeres a solicitar a Apple y Google la prohibición de Grok en sus tiendas de apps.

Cómo Apple respondió a las denuncias por la presencia de Grok en la App Store

La empresa respondió a las denuncias y a la repercusión mediática contactando de manera confidencial a los desarrolladores de Grok y de X, a quienes exigió un plan efectivo de moderación de contenidos como condición para mantener la aplicación en la App Store, detalló la carta enviada por Apple a legisladores estadounidenses.

La primera actualización presentada por X para Grok no fue aprobada por Apple, que la consideró insuficiente. Ante el rechazo, el grupo de Elon Musk sometió a revisión una nueva versión, acompañada por una actualización sustancial en la política de la red social X.

En ese momento, Apple reconoció una mejora en X, pero mantuvo que la aplicación de Grok seguía incumpliendo los requisitos. Fue entonces cuando la tecnológica comunicó formalmente su ultimátum: solo se aceptaría a Grok si incorporaba cambios adicionales comprometedores en su moderación; de lo contrario, sería eliminada de la App Store.

Frente a esa advertencia, la red social X introdujo modificaciones en el acceso a Grok: primero, restringió el generador de imágenes únicamente a usuarios de pago.

Posteriormente, bloqueó por completo la capacidad de generar imágenes sexualizadas mediante la herramienta para todos los usuarios. Recién tras este ajuste, Apple consideró que Grok “había mejorado sustancialmente” y autorizó su permanencia en la tienda, según citó Europa Press.

Qué ha pasado luego de que Grok y X implementaran medidas

Aunque las nuevas políticas impuestas por Grok y X han reducido el volumen original de publicaciones problemáticas respecto de las cifras registradas en enero, NBC News informó que los usuarios continúan encontrando formas de utilizar la herramienta para crear imágenes sexualizadas sin autorización de las personas retratadas.

El medio estadounidense identificó en un informe reciente docenas de casos en los que mujeres aparecen en imágenes generadas con ropa sugestiva, como sujetadores deportivos, vestimentas ajustadas o disfraces.