SCJN protege derecho de infancias a vivir sin violencia digital ejercida con IA

Este martes, la Suprema Corte de Justicia de la Nación (SJCN) determinó la constitucionalidad de un artículo de Ley de los Derechos de Niñas, Niños y Adolescentes en Zacatecas, el cual garantiza el derecho de las infancias a vivir una vida libre de violencia cibernética, digital, y todas las que se ejerzan con el uso de Inteligencia Artificial (IA).

La SCJN destacó que, dada a la evolución rápida y constante de la Inteligencia Artificial, resulta imperativo contar con disposiciones que desarrollen protecciones integrales para las infancias, “estas deben ser lo suficientemente amplias como para abarcar las formas actuales y evitar ser obsoletas ante las formas futuras de inteligencia artificial que pudieran facilitar diversos tipos de violencia en su contra”.

El pleno declaró la validez de la reforma de febrero de 2024 al artículo 9, fracción III, inciso c), de la Ley de los Derechos de Niñas, Niños y Adolescentes del Estado de Zacatecas, con el fin de proteger los derechos de las infancias.

La ministra Margarita Ríos Farjat comentó que “La inteligencia artificial presenta riesgos específicos y potencialmente graves. Por un lado, la Inteligencia Artificial puede ser utilizada para generar y difundir material de explotación sexual infantil altamente realista, como los llamados deepfakes, que pueden causar un daño profundo y duradero en las víctimas. Y por otro lado, la inteligencia artificial puede ser empleada por delincuentes para manipular y engañar niños, niñas y adolescentes, facilitando su victimización”.

Por su parte, la ministra Yasmín Esquivel señaló que la Corte tiene la “obligación proteger sus derechos, prevenir daños psicológicos, sociales y físicos ocasionados por el uso malintencionado de tecnología e incluso como lo hace la norma que hoy se analiza para favorecer la persecución penal de esas conductas y se enfatice en la reparación del daño en casos de explotación.

Riesgos de la IA para las infancias

Según la American Academy of Pediatrics (AAP), una organización con fines científicos y educativos que distribuye recursos en pro al bienestar de las infancias, adolescentes y adultos jóvenes, estos son los peligros potenciales del uso de la IA para este sector:

• Acoso y fraude: la IA generativa se puede utilizar para crear imágenes falsas o distorsionadas del niño o adolescene, o de alguien que conoce; se pueden utilizar para extorsionar a los niños para que brinden información privada o enviar dinero.
• Difusión de odio, prejuicios y estereotipos: la IA recopila y aprende todo lo que encuentra en internet, por lo que las plataformas reflejan los mismos prejuicios que amenazan con dividirnos y alinearnos. “Estudios exhaustivos muestran que el contenido generado por IA promueve estereotipos y falsedades”.
• Erosión de privacidad: la IA recopila información sobre sus usuarios, en ocasiones sin que estén enterados. Hay dispositivos electrónicos que podrían violar la privacidad de las infancias y su familia.