La Justicia ordenó bloquear un sitio web que utilizaba Inteligencia Artificial para generar contenido íntimo sin consentimiento

Una jueza de la provincia de Corrientes ordenó el bloqueo inmediato de un sitio web que utilizaba inteligencia artificial para simular imágenes de desnudez con rostros reales sin consentimiento, en el marco de una causa por vulneración de derechos de adolescentes.

La medida fue dispuesta por la magistrada Marta Rut Legarreta, titular del Juzgado Civil y Comercial de Familia y Menores de Santo Tomé, quien invocó normativa nacional e internacional vinculada a la protección de la niñez y la prevención de la violencia de género, entre ellas, la Ley Olimpia (Ley N° 27.736).

La resolución se dictó luego de que se tomara conocimiento del funcionamiento de una aplicación tecnológica que, mediante modelos avanzados de IA, permitía eliminar digitalmente la ropa de personas en fotografías para crear contenido sexual simulado. Según el expediente, las imágenes manipuladas —obtenidas sin consentimiento— fueron difundidas a través de diferentes chats de WhatsApp, provocando un daño concreto a adolescentes de la jurisdicción. La herramienta, además, no cuenta con ningún tipo de control de edad, verificación de consentimiento ni políticas de privacidad transparentes.

A partir de la denuncia presentada por el progenitor de una víctima, el caso llegó al Juzgado de Familia, que solicitó un informe técnico al Área de Seguridad Informática del Poder Judicial de Corrientes. El análisis, elaborado por el licenciado José Nicolás Bruzzo, determinó que el sitio web en cuestión utiliza redes generativas antagónicas (GANs) y modelos de difusión para procesar imágenes reales y generar representaciones falsas, violando así la privacidad, dignidad e identidad de las víctimas.

De acuerdo con el informe técnico, la herramienta no solo carece de mecanismos de autenticación, sino que tampoco ofrece garantías mínimas de almacenamiento seguro ni información sobre los desarrolladores o responsables de su mantenimiento. Estos aspectos, según el dictamen judicial, “agravan los riesgos de abuso, acoso y difusión no consentida de contenido íntimo”. La magistrada remarcó que este tipo de entornos digitales no garantiza barreras efectivas de edad ni consentimiento, lo que “expone especialmente a niños y adolescentes a formas modernas de violencia simbólica, digital y psicológica”.

En consecuencia, la jueza Legarreta ordenó al Ente Nacional de Comunicaciones (ENACOM) el bloqueo inmediato del acceso al sitio web y a sus servidores DNS desde territorio argentino. Además, dispuso la notificación a la Unidad Fiscal Especializada en Ciberdelincuencia (UFECI), que deberá colaborar con la investigación e impulsar las medidas necesarias para identificar a los responsables detrás de la herramienta.

La medida tendrá vigencia hasta que se acredite el cese del riesgo de daño, priorizando el interés superior de las adolescentes afectadas, de acuerdo con lo establecido por los tratados internacionales de derechos humanos y las normas vigentes en materia de protección integral de niños, niñas y adolescentes.

En su fallo, la jueza citó expresamente la Ley Olimpia, que incorporó la violencia digital como una modalidad específica dentro de la Ley 26.485 de Protección Integral para Prevenir, Sancionar y Erradicar la Violencia contra las Mujeres. Promulgada en diciembre de 2023, la norma establece sanciones frente a situaciones que afecten la intimidad, integridad o dignidad de las personas a través de medios digitales, reconociendo la necesidad de nuevas herramientas legales ante la evolución de las tecnologías aplicadas a la manipulación de contenidos.

El hecho que dio origen al expediente judicial pone en evidencia el vacío de regulación efectiva en el uso de inteligencia artificial para fines de manipulación de imágenes. En este caso puntual, las víctimas eran adolescentes, cuyas imágenes fueron utilizadas sin consentimiento para generar material íntimo falso. La denuncia incluyó el nombre de la aplicación y capturas que daban cuenta de su funcionamiento, según consta en el informe técnico.

El fallo advierte que, ante la ausencia de filtros preventivos, el entorno digital representa un riesgo concreto para niños, niñas y adolescentes, particularmente en lo que refiere a nuevas formas de exposición y agresión vinculadas a la tecnología, el anonimato y la viralización de contenidos.

La causa continúa en etapa de instrucción, con intervención de la UFECI y las áreas técnicas del Poder Judicial de Corrientes, que evalúan los pasos a seguir para profundizar en la identificación de responsables y evaluar posibles derivaciones penales.