Democracia, desinformación, desigualdad y guerra: las claves de la encíclica del papa sobre la inteligencia artificial

El papa León XIV ha publicado un amplio manifiesto sobre la protección de la humanidad en la era de la inteligencia artificial, en el que analiza los numerosos ámbitos sociales que esta tecnología está transformando de manera radical.

A continuación se incluyen algunos extractos del documento de 83 páginas titulado “Magnifica Humanitas” (Magnífica Humanidad), publicado el lunes.

Democracia

León afirma que la desinformación “encontró un potente amplificador” en la IA gracias a la capacidad de “manipular contenidos, imágenes y videos”, lo que expone a las personas a “perspectivas sesgadas o engañosas”. El pontífice señaló que la democracia se debilita cuando el pragmatismo, es decir, “lo que parece útil y eficaz”, sustituye a la verdad. “La indiferencia hacia la verdad conduce, lenta pero seguramente, a un descenso hacia el totalitarismo”, escribió León.

Redes sociales

León dijo que quienes controlan las plataformas digitales, incluidas las redes sociales, tienen un poder que “debe estar constantemente guiado por la búsqueda de la verdad o el respeto a la dignidad humana”. Internet debe verse como “un espacio en el que puedan madurar la libertad interior y el pensamiento crítico”, y no como “un instrumento de distracción excesiva, homogeneización o dominación”. El trasfondo es que la comunicación no solo transmite información, sino que crea cultura.

Trabajo

León dijo que el lugar de trabajo debe regirse por “la protección de las oportunidades de empleo y el papel insustituible del individuo”. Advirtió que “la búsqueda de mayores ganancias no puede justificar decisiones que sacrifiquen sistemáticamente puestos de trabajo, porque la persona humana es un fin, no un medio, y el orden económico debe permanecer subordinado a la dignidad humana y al bien común”. León también dijo que los gobiernos deben fomentar condiciones que favorezcan el empleo “ya que es un bien primario para las familias y para las sociedades”.

Guerra

León afirmó que la IA “solo puede acelerar los conflictos y hacerlos más impersonales”. Pidió criterios concretos a la hora de tomar la decisión de atacar. Esto incluye una cadena de responsabilidad identificable que se aplique también a “quienes diseñan, entrenan, autorizan y emplean la tecnología”, así como medidas para que la selección de objetivos tenga en cuenta la diferencia entre combatientes y no combatientes, y el impacto sobre las poblaciones indefensas. Entre los requisitos no negociables se incluyen garantías de rendición de cuentas y que el uso de la fuerza letal no pueda automatizarse. León también pidió un marco internacional común “para frenar la carrera armamentística tecnológica y garantizar una protección sólida para los civiles”.

Economía

León señaló que la riqueza mundial “se concentra cada vez más en menos manos, lo que agranda las desigualdades”. En la era de la IA y la robótica, ya no es posible confiar únicamente en la “mano invisible” del mercado, escribió León, instando a los políticos a orientar las políticas hacia “el bien común” y a promover “el trabajo digno, la inclusión social y una distribución equitativa de los beneficios de la innovación”.

Trata de personas

León subrayó el papel de las redes digitales —incluidas las plataformas en línea, los sistemas de mensajería y los métodos de pago anónimos— en la trata de personas, que, según él, “debe reconocerse como una forma contemporánea de esclavitud”. Advirtió que no responder a estas prácticas o tolerarlas conlleva el riesgo de ser cómplice de “los pecados de hoy, que son similares a los del pasado, cuando se ocultaba y justificaba la esclavitud”.

Medio ambiente

León también abordó los costos ambientales de los centros de datos que generan modelos de IA, los cuales consumen “enormes cantidades de energía y agua, lo que influye significativamente en las emisiones de dióxido de carbono”. A medida que aumenta la demanda, especialmente de grandes modelos de lenguaje, León pidió el desarrollo de soluciones tecnológicas más sostenibles.

Impacto en los jóvenes

León pidió una alianza entre los responsables políticos, las instituciones educativas y las familias para ayudar a navegar por la “cultura de la inmediatez y la hiperestimulación” creada por los medios digitales. También destacó cómo la IA amplifica el peligro de depredación sobre los jóvenes y advirtió contra el uso de dispositivos móviles personales a una edad demasiado temprana. “Fenómenos en línea como el grooming, el chantaje y la explotación sexual de menores no son infrecuentes, y se vuelven más insidiosos por el uso de perfiles falsos, algoritmos que facilitan el contacto peligroso y herramientas de IA capaces de manipular imágenes y videos”, escribió el Papa.

(Con información de AP)