Prohibirían uso de inteligencia artificial en doce casos: Propuesta solo se verá en Comisión de Ciencia

El avance del uso libre de la inteligencia artificial se ha dado con pasos tan adelantados, que el debate ha dejado olvidado la discusión sobre la protección a derechos de los usuarios, así como la controversia sobre los derechos de autor y la propiedad intelectual.

En este contexto, este martes 1 de abril llegó a la Comisión de Presupuesto y Cuenta Pública finalmente el predictamen recaído en el proyecto de ley 07033/2023-CR-Ley que regula el desarrollo y uso de la inteligencia artificial en el Perú, siendo el primer punto de la agenda que se verá en esta sesión. Sin embargo, esta comisión se ha inhibido de este predictamente; es decir, que no se verá en esta, sino ahora solo en la Comisión de Ciencia, Innovación y Tecnología.

Así, el artículo 12 propuesta en esta nueva normatividad explica doce casos en que se prohiben el uso de esta tecnología, los que tienen como fin proteger derechos fundamentales y humanos, su uso para discriminar injustamente, daños para la seguridad, para manipular, en protección de la defensa nacional y más.

Los doce casos de uso prohibidos

Los principios de la propuesta legislativa, presentada por el congresista Carlos Javier Zeballos Madariaga del partido Podemos Perú, señalan que “todo desarrollo y uso de inteligencia artificial debe estar basado en el respeto irrestricto a los derechos fundamentales de la persona humana, principios éticos fundamentales, incluyendo el respeto a la dignidad humana, la privacidad, la transparencia, la responsabilidad y la equidad”

Asimismo, sostiene que “la inteligencia artificial no debe mentir a un ser humano o, a sabiendas, dejar que un ser humano sea engañado”. Curiosamente, la forma en que funciona ChatGPT no puede definirse como mentira o verdad, dado que su sistema funciona en “adivinar” la respuesta más cercana a la correcta.

De todos modos, la propuesta legislativa señala doce casos en que se prohíbe el uso de la inteligencia artificial para los usuarios en Perú

1. Se prohibe su uso para violar derechos humanos y fundamentales, como la privavidad, la libertad de expresión, la igualdad, la dignidad humana y otros
2. Se prohibe su uso cuando el sistema de inteligencia artificial es discriminatorio y produce resultado perjudiciales para ciertos grupos de personas (discriminación racial, de género, etc.)
3. Se prohibe cuando tenga el potencial de causar daños graves a las personas, sociedad o el medio ambiente
4. Cuando es utilizado para manipular o influir de manera indebida en la toma de decisiones importantes, como en procesos electorales en la formación de opiniones públicas, atentando contra la integridad y la legitimidad de dichos procesos
5. Se prohibe su uso cuando opera de manera opaca y no se puede auditar o comprender cómo toma sus decisiones y puede ser difícil evaluar su impacto y responsabilizar a los actores involucrados. En tales casos, una prohibición del sistema podría ser necesaria hasta que se establezcan mecanismos adecuados de transparencia y rendición de cuentas
6. Se prohibe su uso con fines ilegales, discriminatorios, maliciosos, o que atenten contra los derechos fundamentales y humanos
7. Se prohibe su uso con fines de ataque a la soberanía nacional o con fines ilícitos contra entidades públicas
8. La utilización de sistema de IA en situaciones de emergencia deberá ser justificada y limitada en el tiempo por las autoridades competentes
9. Se prohibe todos los sistemas de categorización biomética por creencias políticas, religiosas, filosóficas o por raza y orientación sexual
10. Se prohibe utilizar sistemas que puntúan sobre las personas en función de sus comportamientos o características personales. Se prohibe el uso de la inteligencia artificial capaz de manipular el comportamiento humano
11. Se prohiben los sistemas que tengan como finalidad la creación o expanción de bases de datos faciales
12. En centros de trabajo y escuelas se prohiben los sistemas de IA que puedan reconocer las emociones

¿Qué implican las prohibiciones?

Los usuarios hacen diversos usos de al inteligencia artificial diariamente. En mayor y menor medida, varios de estos estarían prohibidos por esta regulación. Por ejemplo, se plantearía la necesidad de limitar aquellos que las personas usen como un “psicólogo personal”, dado que estos pueden reconocer las emociones y son capaz de influenciar (a pedido del usuario) el comportamiento humano.

Asimismo, se señala que se prohibe “cuando tenga el potencial de causar daños graves a las personas, sociedad o el medio ambiente”. Según National Geographic España, el generar un texto de 100 palabras en ChatGPT consume 519 mililitros de agua, un impacto notorio a la gran escala de su uso diariamente.