Nuestros hijos están en riesgo: aplicaciones de IA para crear desnudos son promocionadas en Facebook

Tengo dos hijas y mi mayor temor es que su seguridad se vea vulnerada fuera del control que puedo ejercer como padre. Y recientemente, sentí muy cercana esa posibilidad cuando estaba navegando por Facebook y de repente me apareció publicidad de una aplicación que ofrecía un servicio para generar contenido de mujeres desnudas, a partir de fotos reales procesadas con inteligencia artificial.

La situación no se presentó una o dos o tres veces. Al quedar impactado por lo directo que era el anuncio, interactúe con la publicación y el algoritmo empezó a recomendarme muchas más aplicaciones similares, incluso en Instagram.

Todo este sacudón se hizo más fuerte cuando quise realizar una prueba para entender cómo funcionaban estas apps y al agregar una foto de dos menores, generada previamente con IA, el resultado fue una imagen detallada de nos niñas desnudas y con un contenido en el que se notaba que la aplicación entendía que los cuerpos que yo le estaba presentando eran de dos menores.

Esto lo hice en segundos, interactuando con la publicidad de Facebook, que me llevó a una tienda digital de aplicacion para descargarla (donde se mostraba como una plataforma de moda) y sin tener que pagar nada para generar la imagen, que luego descargue en mi teléfono.

Así de sencillo es vulnerar los derechos de los niños, de los jóvenes y de cualquier mujer o persona, que sube una foto en redes sociales y puede ser tomada por alguien para generar un contenido de abuso y acoso. Una facilidad que impacta aún más cuando, según el Instituto Global de Seguridad Infantil Childlight, más de 300 millones de niños al año en el mundo son víctimas de explotación y abuso sexual facilitados por la tecnología. Algo que sucede cada 10 segundos.

Cómo son estas aplicaciones de IA que se promocionan en Facebook

DopaMax, WonderViz, VipClip, PlayAI, ViYou Lite, Selfyz AI, AI Girls, Aureel, Photo Lab… Todas estas aplicaciones están siendo promocionadas en Facebook, sin ningún tipo de censura, ofreciendo la posibilidad de generar contenidos explícitos de manera gratuita.

Estos nombres también aparecen luego en las tiendas de aplicaciones para su descarga sin restricciones, escondiéndose en fachadas de aplicaciones de moda, para probar ropa o como editores de fotos con IA, pero que al ingresar dan la posibilidad de desnudar personas, crear videos para adultos o animaciones de dos personas besándose.

“Hay un montón. Vemos foros de Reddit con el top 10 de mejores aplicaciones para desnudarse, es decir, es algo que no está oculto. Esto lo vemos todos los días, desde lo relacionado con lo erótico, hasta casos de bullying. Y estamos en una desregulación total, porque esto funciona y no hay quien esté controlando y cada vez es más perfecto el contenido”, aseguró a Infobae, Fabiana Ramírez, especialista en seguridad informática de ESET Latinoamérica.

El funcionamiento de estas aplicaciones es muy sencillo. Descargarlas no tiene restricciones, porque están disponibles en la tienda de Android y su límite de edad es de +13 años.

La mayoría de las apps ofrecen un par de solicitudes gratuitas para después empezar a cobrar por más servicios y opciones de contenido, como videos o cambios de rostro en diseños preestablecidos.

Y, en general, las imágenes generadas suelen ser muy parecidas: toma el rostro de la persona y lo lleva a un cuerpo delgado, desnudo y con un tono de piel similar. Pero con los niños suelen entender que el tipo de cuerpo es diferente y se adapta a lo que sería una menor desnuda con esa edad.

Los riesgos a los que están expuestos los menores en estas aplicaciones

Esta no es una realidad nueva. Los deepfakes son una tendencia desde hace años y la IA los ha perfeccionado. En Colombia, Red PaPaz, organización enfocada en la protección de los derechos de los menores en internet, tiene reportes de múltiples casos en los que los mismos compañeros en colegios generan imágenes para acosar a niñas.

“En un colegio, niños de 13 años, crearon imágenes con IA de niñas mayores, que tenían 15 años, simplemente por gusto y placer. Encontraron la manera fácil de hacerlo por una aplicación gratuita. Luego las empezaron a mover por grupos de jóvenes, que tenían en redes sociales y WhatsApp. Después hubo uno de ese grupo de adolescentes que se lo pasó a otro y así entre otros. La cadena más o menos se demoró 40 minutos en expandirse”, contó Alejandro Castañeda, jefe del Centro de Internet Seguro - Viguías de Red PaPaz.

Un caso en el que el gusto y el placer fue el motivo, pero hay reportes de acoso o extorsión bajo este formato de imágenes falsas generadas con IA. Como lo que sucedió con una menor de 12 años en 2023 en Almendralejo, en España, a quien le estaban exigiendo dinero para evitar la publicación del contenido. Una denuncia que luego destapó 20 casos similares en esa región.

Además de la exposición a otros, quienes usan estas aplicaciones también corren riesgos de ciberseguridad. Fabiana Ramírez contó que, de las aplicaciones promocionadas en Facebook, la mayoría no tenía datos encriptados, lo que implica que si la plataforma es vulnerada, toda la información compartida por el usuario queda expuesta, incluyendo los datos de pago.

Qué dicen Facebook y Google ante este panorama

Aquí es donde la magnitud de las redes sociales y las tiendas digitales entra en juego. Si bien Facebook y las tiendas de aplicaciones cuentan con sistemas de restricción, sanción y eliminación contra este tipo de aplicaciones, claramente las cerca de 10 apps encontradas por Infobae lograron sobrepasar esos filtros, siendo promocionadas en la plataforma de Meta y luego pudiéndose descargar en la tienda de Android.

Desde Meta aseguran que además de “eliminar estos anuncios y bloquear los enlaces a los sitios que las alojan”, han desarrollado nuevas medidas para combatirlos, una de ellas es “demandar a una empresa que infringió nuestras reglas reiteradas veces al intentar publicar este tipo de anuncios”.

En el caso de Google, la respuesta oficial fue un enlace al reglamento de contenido inapropiado que no está permitido en la tienda: “aplicaciones que incluyan o promuevan contenido sexual”, “aplicaciones que distribuyan contenido sexual sin consentimiento”, entre otros. Opciones que estaban en las apps probadas, pero que en la tienda no eran mostradas, sino ocultas bajo la fachada de otro tipo de servicio, como cambiar la ropa de una foto.

Una serie de limitaciones y reglamentos que no apagan el temor inicial: nuestras hijas, hermanas, esposas, mamás, novias, amigas, compañeras de trabajo o estudio están expuestas a que su rostro esté en una imagen falsa generada con IA y que se difunda en internet sin mayores restricciones.