El avance del uso libre de la inteligencia artificial se ha dado con pasos tan adelantados, que el debate ha dejado olvidado la discusión sobre la protección a derechos de los usuarios, así como la controversia sobre los derechos de autor y la propiedad intelectual.
En este contexto, este martes 1 de abril llegó a la Comisión de Presupuesto y Cuenta Pública finalmente el predictamen recaído en el proyecto de ley 07033/2023-CR-Ley que regula el desarrollo y uso de la inteligencia artificial en el Perú, siendo el primer punto de la agenda que se verá en esta sesión. Sin embargo, esta comisión se ha inhibido de este predictamente; es decir, que no se verá en esta, sino ahora solo en la Comisión de Ciencia, Innovación y Tecnología.
Así, el artículo 12 propuesta en esta nueva normatividad explica doce casos en que se prohiben el uso de esta tecnología, los que tienen como fin proteger derechos fundamentales y humanos, su uso para discriminar injustamente, daños para la seguridad, para manipular, en protección de la defensa nacional y más.
Los doce casos de uso prohibidos
Los principios de la propuesta legislativa, presentada por el congresista Carlos Javier Zeballos Madariaga del partido Podemos Perú, señalan que “todo desarrollo y uso de inteligencia artificial debe estar basado en el respeto irrestricto a los derechos fundamentales de la persona humana, principios éticos fundamentales, incluyendo el respeto a la dignidad humana, la privacidad, la transparencia, la responsabilidad y la equidad”
Asimismo, sostiene que “la inteligencia artificial no debe mentir a un ser humano o, a sabiendas, dejar que un ser humano sea engañado”. Curiosamente, la forma en que funciona ChatGPT no puede definirse como mentira o verdad, dado que su sistema funciona en “adivinar” la respuesta más cercana a la correcta.
De todos modos, la propuesta legislativa señala doce casos en que se prohíbe el uso de la inteligencia artificial para los usuarios en Perú
- Se prohibe su uso para violar derechos humanos y fundamentales, como la privavidad, la libertad de expresión, la igualdad, la dignidad humana y otros
- Se prohibe su uso cuando el sistema de inteligencia artificial es discriminatorio y produce resultado perjudiciales para ciertos grupos de personas (discriminación racial, de género, etc.)
- Se prohibe cuando tenga el potencial de causar daños graves a las personas, sociedad o el medio ambiente
- Cuando es utilizado para manipular o influir de manera indebida en la toma de decisiones importantes, como en procesos electorales en la formación de opiniones públicas, atentando contra la integridad y la legitimidad de dichos procesos
- Se prohibe su uso cuando opera de manera opaca y no se puede auditar o comprender cómo toma sus decisiones y puede ser difícil evaluar su impacto y responsabilizar a los actores involucrados. En tales casos, una prohibición del sistema podría ser necesaria hasta que se establezcan mecanismos adecuados de transparencia y rendición de cuentas
- Se prohibe su uso con fines ilegales, discriminatorios, maliciosos, o que atenten contra los derechos fundamentales y humanos
- Se prohibe su uso con fines de ataque a la soberanía nacional o con fines ilícitos contra entidades públicas
- La utilización de sistema de IA en situaciones de emergencia deberá ser justificada y limitada en el tiempo por las autoridades competentes
- Se prohibe todos los sistemas de categorización biomética por creencias políticas, religiosas, filosóficas o por raza y orientación sexual
- Se prohibe utilizar sistemas que puntúan sobre las personas en función de sus comportamientos o características personales. Se prohibe el uso de la inteligencia artificial capaz de manipular el comportamiento humano
- Se prohiben los sistemas que tengan como finalidad la creación o expanción de bases de datos faciales
- En centros de trabajo y escuelas se prohiben los sistemas de IA que puedan reconocer las emociones
¿Qué implican las prohibiciones?
Los usuarios hacen diversos usos de al inteligencia artificial diariamente. En mayor y menor medida, varios de estos estarían prohibidos por esta regulación. Por ejemplo, se plantearía la necesidad de limitar aquellos que las personas usen como un “psicólogo personal”, dado que estos pueden reconocer las emociones y son capaz de influenciar (a pedido del usuario) el comportamiento humano.
Asimismo, se señala que se prohibe “cuando tenga el potencial de causar daños graves a las personas, sociedad o el medio ambiente”. Según National Geographic España, el generar un texto de 100 palabras en ChatGPT consume 519 mililitros de agua, un impacto notorio a la gran escala de su uso diariamente.
Más Noticias
Viaje del papa León XIV EN VIVO: El sumo pontífice ya se encuentra en Uruguay e inicia su visita a Sudamérica, mientras Perú lo espera con entusiasmo
El pontífice inició su recorrido el viernes 6 de noviembre desde Roma y ya está en Uruguay. Luego pasará por Argentina antes de llegar al Perú el miércoles 11. Su agenda contempla vuelos internacionales, desplazamientos en helicóptero, misas multitudinarias y encuentros con autoridades, jóvenes y comunidades religiosas. Permanecerá en territorio peruano hasta el lunes 16, cuando emprenderá el viaje de regreso al Vaticano
Los hitos de los cien días de Keiko Fujimori, entre el orden prometido y las dudas sobre su rumbo
Según el investigador Paulo Vilca, el Ejecutivo conserva ventajas políticas frente a gobiernos anteriores, aunque no logra traducirlas en resultados que frenen la baja en las encuestas
“Formamos profesionales para el mundo”: universidad peruana analizó modelo de Oxford durante cumbre que reunió a sus 14 campus
La VII Cumbre de Académicos de la Universidad César Vallejo reúne del 5 al 7 de noviembre a representantes de todas sus sedes y especialistas de la Universidad de Oxford. Durante tres días, el encuentro aborda modelos de enseñanza, el impacto de la inteligencia artificial y la elaboración de propuestas para la formación académica
Estatua del papa León XIV se termina de ensamblar en el Callao: fue construida en tiempo récord y espera bendición papal
La escultura de 14 metros fue instalada esta madrugada en La Punta entre aplausos de vecinos, dos semanas antes de la llegada del Pontífice al Perú
Entradas para ver al Papa León XIV en Perú: ¿se pueden transferir los boletos a otra persona si no puedes asistir?
Ticketmaster y Teleticket tienen reglas específicas para la emisión de los boletos de los encuentros del papa León XIV en Lima
