Los avances de la inteligencia artificial permiten crear videos e imágenes falsas cada vez más realistas, incluso utilizando el rostro o la voz de una persona sin su autorización. Estos contenidos, conocidos como deepfakes, pueden difundirse como una broma, pero también utilizarse para cometer fraudes, suplantar identidades, acosar, extorsionar o perjudicar la reputación de una persona.
Ante esta situación, guardar las pruebas y denunciar el contenido son algunos de los primeros pasos que debe tomar una víctima. ESET, compañía especializada en detección de amenazas informáticas, recomienda no interactuar con quien publicó el material y recurrir a los mecanismos de denuncia disponibles en cada plataforma.
PUBLICIDAD
¿Qué hacer si crearon un deepfake con tu rostro?
El primer paso es guardar toda la evidencia antes de solicitar que el contenido sea eliminado. Esto permitirá demostrar qué se publicó, dónde apareció y quién lo difundió.
Se recomienda:
- Tomar capturas de pantalla de la publicación, perfil o página donde aparece el contenido.
- Guardar la URL de la publicación o del sitio web.
- Anotar el nombre de usuario o cuenta que difundió el material.
- Registrar la fecha y hora en que se encontró el contenido.
- Conservar cualquier texto que acompañe al video o imagen.
- Guardar las respuestas o comunicaciones que se hayan recibido respecto de la publicación.
También es recomendable no contactar ni confrontar directamente a la persona que difundió el deepfake, ya que esto podría provocar que el contenido sea compartido nuevamente o que aumente el acoso.
PUBLICIDAD
¿Cómo denunciar un deepfake en redes sociales?
No todas las plataformas tienen una opción específica denominada “deepfake”. Por ello, la denuncia debe realizarse identificando el problema que genera el contenido, como suplantación de identidad, acoso, fraude o información falsa.
Facebook: se debe abrir la publicación o video, seleccionar los tres puntos y elegir la opción para reportarlo. Luego se selecciona la categoría que describa mejor la situación y se explica que el contenido fue generado o manipulado mediante inteligencia artificial.
Instagram: desde la publicación se debe acceder a las opciones de denuncia y seleccionar el motivo que corresponda.
TikTok: en el video se puede ingresar a Compartir → Reportar → Información falsa → Deepfakes, medios sintéticos y medios manipulados y enviar la denuncia.
PUBLICIDAD
YouTube: cuando una persona aparece o es representada mediante contenido alterado o sintético, puede recurrir al proceso de reclamación de privacidad de la plataforma para solicitar su eliminación.
X: se puede denunciar la publicación desde el menú de opciones y explicar que se trata de contenido generado o manipulado con IA y por qué resulta perjudicial.
¿Qué pasa si el deepfake aparece en Google?
Solicitar que Google retire el resultado de búsqueda puede ayudar a dificultar que otras personas encuentren el contenido, aunque esto no significa necesariamente que el video o imagen original desaparezca del sitio donde fue publicado.
PUBLICIDAD
Por ello, es importante diferenciar entre eliminar un resultado de búsqueda y eliminar el contenido original. Si el deepfake continúa alojado en una página web, también se debe contactar al responsable del sitio para solicitar su retiro.
Si el administrador se niega, ESET recomienda conservar las pruebas y buscar los datos de contacto correspondientes a asuntos legales, privacidad o derechos de autor. En la comunicación se debe explicar que el contenido representa a la persona sin su consentimiento y solicitar formalmente su eliminación.
¿Qué hacer si el deepfake es una imagen íntima?
El caso requiere una respuesta especialmente rápida cuando se trata de imágenes íntimas no consensuadas, incluso si fueron creadas artificialmente mediante IA.
Una de las herramientas disponibles es StopNCII.org, que genera una huella digital o hash de la imagen directamente en el dispositivo. Las plataformas participantes pueden utilizar esa huella para detectar coincidencias y retirar el contenido cuando infringe sus políticas.
PUBLICIDAD
También existe Take It Down, un servicio destinado a ayudar a retirar imágenes o videos de carácter sexual en los que aparecen menores de 18 años.
¿Un deepfake es ilegal?
La respuesta depende del tipo de contenido, la finalidad con la que fue creado y las leyes del lugar donde ocurre el caso.
Un deepfake puede tener consecuencias legales cuando se utiliza para cometer fraude, extorsionar, acosar, difamar, suplantar la identidad de una persona o distribuir imágenes íntimas sin consentimiento. Cuando involucra a menores de edad, las consecuencias pueden ser particularmente graves.
PUBLICIDAD
Por ello, además de denunciar el contenido ante la plataforma, puede ser necesario acudir a las autoridades cuando exista un delito, una amenaza, extorsión o afectación grave a la víctima.
La clave es explicar por qué el contenido es perjudicial
Mario Micucci, investigador de Seguridad Informática de ESET Latinoamérica, recomienda que al presentar una denuncia no basta con señalar que el contenido fue creado con inteligencia artificial.
Es importante explicar qué problema genera: si se trata de una suplantación de identidad, fraude, acoso, extorsión u otra conducta perjudicial. Esto permite que la plataforma, el buscador o la autoridad pueda evaluar la denuncia bajo la categoría correspondiente.
PUBLICIDAD
En caso de ser víctima, guardar las pruebas, denunciar el contenido y solicitar su eliminación por las distintas vías disponibles puede ayudar a reducir su difusión y facilitar las acciones posteriores.
¿Los deepfakes pueden ser castigados con cárcel en el Perú?
En el Perú, la creación o difusión de un deepfake no constituye, por sí sola, un delito autónomo denominado de esa manera. Sin embargo, el uso malicioso de esta tecnología puede ser sancionado penalmente cuando la conducta encaja en delitos ya contemplados en el Código Penal o en la legislación sobre delitos informáticos.
La responsabilidad dependerá de las características de cada caso y de la finalidad con la que se haya creado o difundido el contenido. Por ejemplo, un video generado con inteligencia artificial podría adquirir relevancia penal si se utiliza para vulnerar la intimidad de una persona, afectar su honor, suplantar su identidad, cometer una estafa, realizar amenazas o extorsionarla.
¿Qué delitos podrían aplicarse?
Entre las figuras que pueden ser evaluadas por las autoridades se encuentra la violación de la intimidad, prevista en el artículo 154 del Código Penal, cuando la conducta supone una afectación ilícita de la vida personal o familiar de una persona.
También puede analizarse el delito de difamación, contemplado en el artículo 132, cuando la difusión de información o contenido falso busca perjudicar el honor o la reputación de la víctima.
A ello se suma la Ley N.° 30096, Ley de Delitos Informáticos, que contempla distintas conductas cometidas mediante tecnologías de la información. De acuerdo con información citada sobre las modificaciones a esta legislación, el uso de inteligencia artificial o tecnologías similares puede constituir un agravante en determinados delitos informáticos, lo que podría incrementar la sanción correspondiente.
Por ello, la pena no depende simplemente de que un contenido haya sido elaborado con IA, sino del delito que se configure a partir de su creación, utilización o difusión y de las circunstancias específicas del caso.
Un antecedente judicial en Arequipa
La aplicación de estas normas ya ha llegado a los tribunales peruanos. En Arequipa, el Poder Judicial impuso más de seis años de prisión efectiva a un hombre que utilizó inteligencia artificial para crear y difundir videos pornográficos falsos empleando los rostros de sus excompañeras.
PUBLICIDAD