El Papa León XIV citó “El señor de los anillos” para hablar sobre inteligencia artificial

El Papa León XIV recurrió a las palabras de J.R.R. Tolkien para definir la responsabilidad de la humanidad frente a la inteligencia artificial, citando El señor de los anillos en su nueva encíclica sobre tecnología y ética.

El pontífice incluyó el pasaje en el apartado titulado “Todos podemos hacer nuestra parte” del documento, llamado Magnifica Humanitas (“Magnífica Humanidad”), presentado este lunes en el Vaticano.

“El autor católico del siglo XX J.R.R. Tolkien, en palabras de uno de los protagonistas de sus novelas, describió nuestra responsabilidad de esta manera: ‘No nos corresponde dominar todas las mareas del mundo, sino hacer lo que está en nosotros para el socorro de los años en que vivimos, arrancando el mal de los campos que conocemos, para que quienes vengan después puedan encontrar tierra limpia para labrar’”, se lee en el documento.

La encíclica fue presentada por el propio León XIV —un gesto considerado inusual, dado que los pontífices habitualmente no asisten en persona a la presentación de estos documentos—, y estuvo acompañada por altos prelados católicos, teólogos y Christopher Olah, cofundador de la empresa de desarrollo de inteligencia artificial Anthropic.

El Papa León XIV y la IA: sus principales advertencias

El documento de cinco capítulos tiene como premisa que la tecnología no es “una fuerza antagonista a la humanidad” ni “intrínsecamente malvada”, aunque advierte que “nunca es neutral, porque adopta las características de quienes la conciben, financian, regulan y utilizan”.

El papa alertó sobre la concentración del poder tecnológico en pocas manos. “La IA tiende a acrecentar el poder de quienes ya poseen recursos económicos, experiencia y acceso a datos”, señaló el documento.

Y continúa: “Grupos pequeños pero muy influyentes pueden moldear la información y los patrones de consumo, influir en los procesos democráticos y orientar las dinámicas económicas en su propio beneficio, socavando la justicia social y la solidaridad entre los pueblos”.

“Cuando ese poder se concentra en manos de unos pocos, tiende a volverse opaco y a evadir la supervisión pública, aumentando el riesgo de formas distorsionadas de desarrollo que dan lugar a nuevas dependencias, exclusiones, manipulaciones y desigualdades”, añadió León XIV.

El Santo Padre también advirtió sobre el riesgo de que las personas pierdan el deseo de relacionarse con otros seres humanos a causa de los agentes de inteligencia artificial, y que delegar decisiones en las máquinas pueda “fomentar una dependencia excesiva y la búsqueda de respuestas prefabricadas, debilitando la creatividad y el juicio personal”.

En materia de regulación, el papa llamó a marcos legales sólidos, supervisión independiente y una mayor participación política. “Lo que se necesita es una implicación política más activa, capaz de frenar las cosas cuando todo se acelera”, sostuvo.

León XIV también instó a “desarmar” la inteligencia artificial, entendiendo ese concepto como la necesidad de “liberarla de la mentalidad de competencia ‘armada’”, que abarca tanto el ámbito militar como el económico y el cognitivo.

Advirtió además sobre lo que denominó “nuevas formas de esclavitud”, señalando la explotación humana y ambiental detrás del desarrollo de la IA, desde el entrenamiento de modelos con material protegido por derechos de autor hasta la extracción de minerales utilizados en el hardware.

En relación con el uso militar, indicó que la responsabilidad por las acciones letales debe recaer en seres humanos y no en máquinas, y reclamó la creación de leyes internacionales que regulen el uso creciente de armas automatizadas.

“Llamar a la prudencia, a una evaluación rigurosa e incluso, en ocasiones, a un ritmo más lento en la adopción de la IA no significa oponerse al progreso; es, por el contrario, un ejercicio de cuidado responsable hacia la familia humana”, concluyó León XIV.