Así es como aumenta la violencia digital contra las mujeres con Inteligencia Artificial

Los avances tecnológicos han brindado a los ciberdelincuentes herramientas cada vez más sofisticadas, y en la era de la Inteligencia Artificial (IA), las mujeres se enfrentan a una creciente amenaza de violencia digital.

La tecnología “Deepfake” -video, una imagen o un audio generado que imita la apariencia y el sonido de una persona- ha permitido la creación de imágenes, videos y voces falsas con una precisión inquietante, y las estadísticas muestran que la IA es utilizada de manera alarmante en el ámbito de la violencia de género.

Herramientas generar contenido para adultos

Según un informe de Home Security Heroes, aproximadamente una de cada tres herramientas “deepfake” se utiliza para generar contenido para adultos mediante técnicas de manipulación por IA. Este hecho destaca un preocupante aumento en la explotación de la tecnología para violar la privacidad y la dignidad de las mujeres.

Recientemente, salió a la luz un caso que conmocionó a la comunidad estudiantil en México. Se descubrió que un alumno de la Escuela Superior de Comercio y Administración del IPN tenía en su posesión más de 20 mil fotos de compañeras, todas alteradas con IA, que eran vendidas en grupos de Telegram.

Este incidente puso de manifiesto la necesidad urgente de abordar la violencia digital y su impacto en la intimidad de las personas.

Figuras públicas fueron víctimas

Además, figuras públicas como la cantante española Rosalía y la periodista costarricense Johanna Villalobos han sido víctimas de la creación y distribución de imágenes falsas generadas con IA, lo que demuestra que nadie está a salvo de esta amenaza.

Para combatir este problema, México promulgó la Ley Olimpia en 2021, un conjunto de reformas legislativas destinadas a reconocer y sancionar la violencia digital y los delitos contra la intimidad sexual.

Además, el Consejo Ciudadano para la Seguridad y Justicia de la CDMX estableció una alianza con la plataforma StopNCII.org para ayudar a quienes temen que sus imágenes íntimas puedan ser compartidas sin su consentimiento.

El funcionamiento de StopNCII.org es sencillo: los usuarios pueden cargar sus imágenes o videos íntimos en la plataforma, que luego crea una huella digital segura llamada “hash”. Tras completar el proceso, los usuarios reciben un número de caso y un PIN para verificar el estado de sus imágenes.

Las empresas también reciben alertas que les permiten detectar y bloquear cualquier intento de compartir estas imágenes sin consentimiento.

Los datos proporcionados por el Consejo Ciudadano, desde 2020 hasta la fecha, se ha brindado apoyo a más de ocho mil personas víctimas de violencia digital. Los reportes de 2023 muestran un alarmante aumento del 64 por ciento en comparación con 2022.

Los principales tipos de violencia digital son la sextorsión (62%), el robo de identidad (27%), y el ciberacoso (7%). En cuanto al desglose por género, el 69% de las víctimas son mujeres, mientras que el 31% son hombres.

Delitos muy comunes

Los delitos de venta de “packs”, sextorsión y ciberacoso son los más comunes entre las mujeres, mientras que los hombres son víctimas principalmente de robo de identidad, fraude amoroso y abusos relacionados con videojuegos.

Es importante destacar que existen leyes que sancionan estos delitos en la Ciudad de México, incluyendo la violación de la intimidad sexual, la pornografía y la usurpación de identidad, con penas que van desde 1 a 14 años de prisión.

Para combatir la violencia digital, se recomienda a la población mantener sus dispositivos actualizados y no descargar programas de IA que no sean oficiales. La IA también puede ser utilizada de manera positiva para reconocer detalles de comunicaciones y transacciones ilícitas.

Limitar el acceso a las redes sociales y utilizar herramientas como la búsqueda inversa de imágenes de Google pueden ayudar a proteger la privacidad en línea. Además, se alienta a las víctimas y testigos a reportar y denunciar cualquier acto de violencia digital a la Línea de Seguridad y el Chat de Confianza al número 55 5533 5533.

La violencia digital es una amenaza real que afecta a personas de todos los ámbitos de la sociedad. Es esencial abordar este problema de manera efectiva, no solo a través de la legislación, sino también mediante la concienciación y la colaboración de la sociedad en su conjunto.