El avance del uso libre de la inteligencia artificial se ha dado con pasos tan adelantados, que el debate ha dejado olvidado la discusión sobre la protección a derechos de los usuarios, así como la controversia sobre los derechos de autor y la propiedad intelectual.
En este contexto, este martes 1 de abril llegó a la Comisión de Presupuesto y Cuenta Pública finalmente el predictamen recaído en el proyecto de ley 07033/2023-CR-Ley que regula el desarrollo y uso de la inteligencia artificial en el Perú, siendo el primer punto de la agenda que se verá en esta sesión. Sin embargo, esta comisión se ha inhibido de este predictamente; es decir, que no se verá en esta, sino ahora solo en la Comisión de Ciencia, Innovación y Tecnología.
Así, el artículo 12 propuesta en esta nueva normatividad explica doce casos en que se prohiben el uso de esta tecnología, los que tienen como fin proteger derechos fundamentales y humanos, su uso para discriminar injustamente, daños para la seguridad, para manipular, en protección de la defensa nacional y más.
Los doce casos de uso prohibidos
Los principios de la propuesta legislativa, presentada por el congresista Carlos Javier Zeballos Madariaga del partido Podemos Perú, señalan que “todo desarrollo y uso de inteligencia artificial debe estar basado en el respeto irrestricto a los derechos fundamentales de la persona humana, principios éticos fundamentales, incluyendo el respeto a la dignidad humana, la privacidad, la transparencia, la responsabilidad y la equidad”
Asimismo, sostiene que “la inteligencia artificial no debe mentir a un ser humano o, a sabiendas, dejar que un ser humano sea engañado”. Curiosamente, la forma en que funciona ChatGPT no puede definirse como mentira o verdad, dado que su sistema funciona en “adivinar” la respuesta más cercana a la correcta.
De todos modos, la propuesta legislativa señala doce casos en que se prohíbe el uso de la inteligencia artificial para los usuarios en Perú
- Se prohibe su uso para violar derechos humanos y fundamentales, como la privavidad, la libertad de expresión, la igualdad, la dignidad humana y otros
- Se prohibe su uso cuando el sistema de inteligencia artificial es discriminatorio y produce resultado perjudiciales para ciertos grupos de personas (discriminación racial, de género, etc.)
- Se prohibe cuando tenga el potencial de causar daños graves a las personas, sociedad o el medio ambiente
- Cuando es utilizado para manipular o influir de manera indebida en la toma de decisiones importantes, como en procesos electorales en la formación de opiniones públicas, atentando contra la integridad y la legitimidad de dichos procesos
- Se prohibe su uso cuando opera de manera opaca y no se puede auditar o comprender cómo toma sus decisiones y puede ser difícil evaluar su impacto y responsabilizar a los actores involucrados. En tales casos, una prohibición del sistema podría ser necesaria hasta que se establezcan mecanismos adecuados de transparencia y rendición de cuentas
- Se prohibe su uso con fines ilegales, discriminatorios, maliciosos, o que atenten contra los derechos fundamentales y humanos
- Se prohibe su uso con fines de ataque a la soberanía nacional o con fines ilícitos contra entidades públicas
- La utilización de sistema de IA en situaciones de emergencia deberá ser justificada y limitada en el tiempo por las autoridades competentes
- Se prohibe todos los sistemas de categorización biomética por creencias políticas, religiosas, filosóficas o por raza y orientación sexual
- Se prohibe utilizar sistemas que puntúan sobre las personas en función de sus comportamientos o características personales. Se prohibe el uso de la inteligencia artificial capaz de manipular el comportamiento humano
- Se prohiben los sistemas que tengan como finalidad la creación o expanción de bases de datos faciales
- En centros de trabajo y escuelas se prohiben los sistemas de IA que puedan reconocer las emociones
¿Qué implican las prohibiciones?
Los usuarios hacen diversos usos de al inteligencia artificial diariamente. En mayor y menor medida, varios de estos estarían prohibidos por esta regulación. Por ejemplo, se plantearía la necesidad de limitar aquellos que las personas usen como un “psicólogo personal”, dado que estos pueden reconocer las emociones y son capaz de influenciar (a pedido del usuario) el comportamiento humano.
Asimismo, se señala que se prohibe “cuando tenga el potencial de causar daños graves a las personas, sociedad o el medio ambiente”. Según National Geographic España, el generar un texto de 100 palabras en ChatGPT consume 519 mililitros de agua, un impacto notorio a la gran escala de su uso diariamente.
Más Noticias
Miralles anuncia reuniones con bancadas y confía en respaldo del Congreso
La situación del Ejecutivo es compleja, pues, además de garantizar un proceso electoral transparente y enfrentar el problema de la inseguridad, los ministros también deben atender la emergencia generada por el desabastecimiento de GNV
Adrián Villar: ¿Qué es la prisión preventiva y en qué casos se impone?
Poder Judicial considera que en el caso del hijastro de Marisel Linares no existe otra medida diferente a la prisión preventiva para asegurar su presencia en el proceso penal por la muerte de Lizeth Marzano
Horacio Calcaterra increpa a hincha de Universitario en defensa de Jorge Murrugarra: “Te hizo celebrar 3 copas”
El mediocampista uruguayo respaldó a su compañero tras las recientes críticas por su rendimiento en la Liga 1
Sporting Cristal tiene en carpeta a dos jugadores antes del cierre del mercado: “De repente no caerá muy a gusto en Paulo Autuori”
El periodista deportivo, Renato Luna, dio a conocer que el club ‘rimense’ apunta a reforzar el plantel con un par de futbolistas, una decisión que podría no ser compartida por el DT brasileño
Policía muere en Ucayali luego de comer la evidencia de un caso de envenenamiento
La víctima fue identificada como el suboficial José William Pérez Cubas, que estaba en actividad en la comisaría de la ciudad de Aguaytia, en el distrito Padre de Abad
