IA-Ceno: de las “terras incógnitas” a las “mentes incógnitas”

En los mapas antiguos, cuando se solía emprender una navegación, se tenían algunas coordenadas precisas, pero luego se navegaba a oscuras. Se descubrían nuevos continentes por casualidad, y también se tejían fábulas sobre los espacios desconocidos, bajo el nombre de terras incógnitas. Lo que no se conocía, se temía.

Monstruos de muchas cabezas, dragones mitológicos, seres mitad humano y mitad animales, centauros de toda naturaleza. Si nos acercamos más a la modernidad, las fronteras de la ciencia se asemejan también a las creaciones de Frankenstein, el Golem de Borges que se iba de las manos de su inspirador y todas las aproximaciones de la literatura fantástica. Hoy, la pelea entre la ciencia real y la ciencia ficción sigue firme, y borronea sus límites acaso más que nunca.

Nos podemos detener en un ejemplo del pasado.

El avance de la tecnología moderna permitió gracias al descubrimiento de América, pasar de la astrología a la astronomía, y de la alquimia a la química, entre otras cosas. Para muchos, ese es el comienzo de una nueva era, el Antropoceno.

¿Antropo-qué?

La era en que el ser humano comienza a influir decisivamente sobre la corteza terrestre y todo el ambiente que la rodea.

Quien inventó este término fue el Premio Nobel de Química Paul Crutzen y miembro, entre otras, de la Academia Pontificia de Ciencias del Vaticano. Se había dedicado especialmente al análisis de las radiaciones nucleares y los efectos sobre la capa de ozono de la acción humana. Pero la discusión ni empezó ni terminó con él. Muchos sostienen que también fue la revolución industrial, el surgimiento del capitalismo, la emergencia de internet, los avances de la biología sintética o las concentraciones altas de plutonio en los lagos y las aguas, la que dieron lugar a esta nueva era de la humanidad.

El Antropoceno, que fue minuciosamente estudiado en diversos informes del Programa de las Naciones Unidas para el Desarrollo, y que tuvo también fundamentales aportes desde el Vaticano, de la mano del Papa Francisco, y la promoción de la Encíclica Laudato Si.

Paul Crutzen, el creador del término “Antropoceno”

Por supuesto, aún la discusión académica no está cerrada. Los encargados de medir los impactos geológicos incluso niegan esta posibilidad de una nueva era geológica y hablan simplemente de “ciclos” de la naturaleza. Y en medio de estos cambios tectónicos en la corteza terrestre y en la atmósfera, se da otra explosión inminente: el surgimiento de la inteligencia artificial general -superior a todos los seres humanos-, como fuerza transformadora, sobre la cual también existen diferentes enfoques sobre el momento en el cual podrá arribar, y aún si esto será posible de modo general.

No se trata sólo de que la tierra se está calentando en el sentido más ecológico de la naturaleza. También hay un calentamiento tecnológico global, que tiene que ver con la fricción de la tecnología sobre nuestro ser, nuestro comportamiento, y hasta nuestra propia evolución como especie.

Por eso en la navegación que propongo en este nuevo mundo de la IA, hablo que se ha inaugurado una sub-época en el Antropoceno: el IA Ceno. La influencia de un “nuevo ser” sobre nuestro “ser” como humanidad. La inteligencia artificial, los agentes artificiales, las nuevas especies y sub-especies digitales. Sobre cuyo comportamiento, ni siquiera sus inventores tienen en claro cómo logran resultados a partir de los productos que emergen de las cajas negras de los algoritmos.

Este IA Ceno incluye al ser humano y su acción sobre el planeta, por supuesto: –con la minería de los metales raros que dan lugar a la fabricación de chips; con los satélites de última generación que permiten mejorar la conectividad; con los data centers que incrementan la capacidad de cómputo demandando enormes fuentes de energía… y tantos otros efectos positivos y negativos sobre la superficie de la tierra y más allá.

Pero hay otra terra incógnita que no se ha terminado de explorar y que ya está siendo afectada en la era del IA Ceno: nuestra mente, nuestra conciencia y nuestro cuerpo, hasta la mínima configuración genética. Con la edición de ADN, las manipulaciones en el comportamiento, el secuestro de la atención, la generación de procesos de inteligencia -y desinteligencias- colectivas y la limitación o expansión de nuestra capacidad de decidir.

A todo esto, se le suma la emergencia de la inteligencia organoide, donde tejidos humanos se traspasan a una computadora para dar lugar a una computación biológica con fronteras intensas con conceptos del transhumanismo.

La triple agencia en la era del IA-Ceno

Convivimos con tres tipos de “agencias” en este IA Ceno:

• La agencia humana plena, que está desconectada en muchas áreas rurales de nuestro planeta y que ni siquiera tiene acceso a internet. (Lo cual es tanto problema como solución).
• La agencia híbrida, que desarrollamos al interactuar todo el tiempo con lo digital lo queramos o no, por el sólo hecho de caminar por cualquier de nuestras calles y ser captados por una cámara o por el sólo hecho de encender un teléfono celular.
• Y la agencia autónoma, puramente digital, que está constituida por grandes modelos de lenguaje de inteligencia artificial que pueden llegar a tomar decisiones por sí mismos, desalinearse del propósito para el cual fueron creados o simplemente rebelarse frente a sus dueños, negándose a ser apagados.

Esto es lo que está en juego y se analiza en esta fascinante carta de navegación que es un Atlas de IA, en cuyo primer capítulo se analiza la necesidad de una gobernanza Glocal (Global+Local) para que esté al servicio de la humanidad, y no de su extinción.

Entre las burbujas y las esperanzas

Las comparaciones con el pasado también pueden rastrearse para comprender mejor lo que está en juego y el modo de comportarse de los líderes. Por ejemplo, pensemos un instante en Cristóbal Colón. Tuvo que desarrollar y organizar en el siglo XV la tecnología más avanzada de su época para el descubrimiento de las Indias (¡finalmente América!), tuvo que convencer con ingentes presupuestos públicos a quienes le financiaban sus viajes, hasta el punto de pretender fascinarlos en las cartas y relatos de sus travesías con un potencial descubrimiento del paraíso terrenal, donde todo era riqueza, naturaleza mansa y territorios maravillosos.

Hasta que terminó teniendo que reconocer una realidad de muy diversa naturaleza: las pestes que diezmaban sus tripulaciones, la violencia desatada frente a una conquista contradictoria y muchas veces cruel, la inclemencia del clima e incluso la escasez de tantas tierras preciosas que se pensaban abundantes.

Llevando esa imagen de colonialismo del pasado al presente, ¿no podríamos hablar hoy del riesgo de un colonialismo digital? De una burbuja inflada de expectativas de parte de las grandes tecnológicas, que nos prometen el desarrollo de inteligencias superiores sin reparar en las limitaciones de energía, de conflictos geopolíticos, de tierras raras y de cadenas de producción sofisticadas. ¿No corremos incluso el riesgo de quedar encandilados por inversiones super-millonarias, que acaso no estén en condiciones de generar retornos suficientes como para poder pagar los endeudamientos que asumen?

La ciencia y la técnica en el descubrimiento de América ¿Una metáfora actual?

¿Estamos frente a un ángel exterminador, o estamos frente a una imagen distorsionada del paraíso terrenal, que el gran Colón dibujaba con la forma de una tierra con forma de pera, en cuya cúspide estaban los mejores lugares para los seres humanos?

En otra obra, “El Shock del Antropoceno”, de Christophe Bonneuil y Jean-Baptiste Fressoz, se habla de que tenemos que superar la versión vieja del mundo como “un sistema natural con seres humanos molestándolo”, hacia un “sistema humano con eco-sistemas naturales y artificiales introducidos en su interior”. Es decir que la batalla no se da hacia afuera de nuestra mente y cuerpo, sino en su interior. Y más que nunca, en el plano de una BIO-IA.

Las alertas no son pocas: corremos el riesgo de convertirnos en máquinas obsoletas o manipulables, si no actuamos al debido tiempo y con las debidas decisiones. La moneda está en el aire.

Depende de lo que hagamos como ciudadanos, como consumidores, como familias y -sobre todo-, lo que hagan los decisores públicos globales, para llegar a buen puerto en esta navegación que tiene aguas turbulentas, promesas de aguas cristalinas y de tierras de abundancia y que, a pesar de todas las extraordinarias transformaciones científicas de la actualidad, también tiene “terras incógnitas” de inteligencia artificial general frente a las cuales cuando se le preguntan a los principales tecnólogos mundiales qué ocurrirá el día que se descubran, la respuesta es: “No lo sabemos”.

Es decir, es el ejemplo más brutal de que no sólo existen “terras incógnitas”, sino también “mentes incógnitas”.

Tres preguntas éticas claves para el presente-futuro

1. En el caso de un automóvil autónomo, dónde se pone la responsabilidad en el caso de un choque: ¿en el conductor, en los desarrolladores del sistema, en el peatón que cruzó la calle inapropiadamente, en el software o en el hardware del nuevo modelo?
2. ¿Qué ocurre si los autos autónomos generan mensos siniestros que los conductores humanos? Por ejemplo: si bajan las pólizas de seguro en comparación con los automóviles manejados no autónomamente. ¿Deberían los países de América Latina impulsar pruebas piloto en sus municipios sobre estas experiencias?
3. ¿Qué diseño de política industrial-digital debería impulsar un país de América Latina cuando una gran empresa tecnológica anuncia la instalación de un proyecto minero o un data center en su territorio? ¿Qué margen de maniobra existe para evitar un colonialismo extractivista? ¿Hay manera de generar un ganar-ganar en dicho anuncio?

Lecturas complementarias