Google y Apple eliminan decenas de aplicaciones de IA de sus tiendas oficiales por realizar desnudos

Google y Apple retiraron decenas de aplicaciones de inteligencia artificial de sus tiendas oficiales tras la publicación de una investigación que reveló la presencia de herramientas capaces de generar desnudos y contenidos explícitos, a pesar de que este tipo de prácticas están prohibidas por sus propias políticas.

La decisión se produjo luego de que la organización Tech Transparency Project (TTP) documentara la existencia y el alcance de estas apps tanto en la Play Store como en la App Store.

Según el informe, en el momento del relevamiento había al menos 55 aplicaciones de este tipo disponibles en la tienda de Google y 47 en la de Apple. Tras conocerse los resultados, Apple confirmó la eliminación de 28 aplicaciones, mientras que Google informó la suspensión de varias más, que finalmente ascendieron a 31, de acuerdo con datos proporcionados por la propia TTP.

La investigación puso el foco en aplicaciones que permiten generar imágenes o videos manipulados mediante IA, ya sea creando contenido desde cero a pedido del usuario o superponiendo rostros reales sobre cuerpos ajenos mediante técnicas de deepfake. Para detectarlas, la organización explicó que bastó con buscar términos como “nudify” o “undress” en los motores de búsqueda de ambas tiendas.

Uno de los puntos más sensibles del informe es que varias de estas aplicaciones estaban disponibles para menores de edad. En algunos casos, figuraban como aptas para mayores de 13 años en la Play Store y para mayores de 9 años en la App Store, lo que abría la posibilidad de que niños y adolescentes accedieran a herramientas capaces de generar imágenes sexualizadas sin restricciones efectivas.

Entre las aplicaciones más populares mencionadas por TTP se encontraba DreamFace, que superaba los 10 millones de descargas. Aunque sus condiciones de servicio prohíben explícitamente la creación de contenido sexual, la organización comprobó que, en la práctica, la app permitía generar videos con desnudos a partir de una imagen subida por el usuario, incluso utilizando su versión gratuita. El experimento se realizó sin que el sistema aplicara bloqueos o advertencias adicionales.

El informe también destacó el impacto económico de este ecosistema. De acuerdo con un análisis de AppMagic citado por TTP, el conjunto de estas aplicaciones habría alcanzado unas 705 millones de descargas y generado ingresos por alrededor de 117 millones de dólares.

La organización cuestionó que, pese a las prohibiciones formales, tanto Google como Apple terminaran obteniendo beneficios a través de comisiones por apps que incumplían sus normas.

La presencia de estas aplicaciones entra en conflicto directo con las políticas de ambas compañías. Google establece que no permite apps con contenido sexual, pornográfico o desnudos sin consentimiento, mientras que Apple prohíbe de forma explícita el material “abiertamente pornográfico” y aquel que pueda resultar dañino o difamatorio. Sin embargo, la investigación sugiere que los sistemas de revisión no lograron detectar o frenar de manera efectiva estas prácticas.

Tras la difusión del informe, ambas empresas solicitaron a TTP el listado detallado de las aplicaciones señaladas. A partir de esa información, comenzaron los retiros y suspensiones, aunque desde Google no se precisó inicialmente el número exacto de apps afectadas. Apple, en cambio, confirmó públicamente las eliminaciones y aseguró que continúa revisando su tienda para evitar nuevos incumplimientos.

El caso se suma a una creciente preocupación global por el uso de la inteligencia artificial para generar imágenes explícitas y por los riesgos asociados a la falta de controles, especialmente cuando se trata de menores.

En ese sentido, otras plataformas también han tomado medidas recientes. X, por ejemplo, limitó la generación de imágenes de su chatbot Grok luego de enfrentar investigaciones y cuestionamientos por la difusión de contenidos inapropiados.

Compartir nota: