Consciencia, fantasmas y algoritmos: el alma oculta de la IA

En diciembre de 1990, Tim Berners-Lee, un físico británico egresado de la universidad de Oxford, se convirtió en uno de los científicos más destacados del siglo XX al establecer por primera vez una comunicación entre una persona y un servidor utilizando el protocolo HTTP. Este fue el punto de partida de la World Wide Web que produciría una de las mayores revoluciones tecnológicas de la historia.

En la actualidad, a sus 70 años, Berners-Lee advierte con preocupación que el sistema abierto de enlaces que imaginó en simultáneo a la caída del Muro de Berlín, se está convirtiendo en un conjunto de plataformas que distorsionan el ecosistema comercial de los datos. Afirma que, si nadie sale de las plataformas cerradas y si los enlaces dejan de importar, “el modelo que financió la web abierta empieza a colapsar”.

En este punto, su diagnóstico coincide con las advertencias recientes del historiador israelí Yuval Noah Harari, que ha venido insistiendo en que la inteligencia artificial no solo automatiza tareas, sino que amenaza con secuestrar la atención y la intención humanas. El verdadero peligro para Harari no es que las máquinas piensen, sino que aprendan a conocernos mejor de lo que nos conocemos a nosotros mismos, influyendo en nuestras decisiones diarias sin que alcancemos a percibirlo.

Berners-Lee propone una inteligencia artificial que trabaje más enfocada en las personas, y no tanto para las plataformas. Señala que “un asistente personal que conozca mis objetivos, mi salud, mi agenda devolvería la tecnología al servicio del usuario”. Lo conceptualiza como economía de la intención, en oposición a la economía de la atención que domina hoy la agenda de las plataformas.

A estas visiones se suma la del ingeniero taiwanés Jensen Huang, director ejecutivo de NVIDIA, que sostiene que la inteligencia artificial será tan transformadora como la electricidad o internet, y que no eliminará el trabajo, sino que cambiará a los trabajadores. Por su parte, Berners-Lee no cree que la IA conduzca a un desempleo masivo y permanente.

Al contrario, estima que provocará un cambio profundo en la naturaleza del trabajo. Pronostica que “la IA automatizará gran parte del trabajo pesado: las tareas repetitivas basadas en datos que actualmente ocupan gran parte de nuestro tiempo”.

Días atrás, Dario Amodei, cofundador y CEO de Anthropic, publicó un extenso ensayo de su autoría titulado “The adolescence of technology”. En el texto, este doctor en Física de 43 años egresado de la universidad de Princeton, señala cinco riesgos emergentes de la IA:

Autonomía fuera de control: sistemas que actúan sin supervisión y sin valores humanos claros. Uso destructivo: ciberataques, manipulación informativa o bioingeniería peligrosa. Concentración de poder: cuando pocas manos controlan capacidades decisivas. Disrupción económica: automatización masiva y desigualdad acelerada. Efectos indirectos: consecuencias sociales o políticas imposibles de anticipar.

A lo largo del siglo XX la filosofía sirvió de fundamento para algunos postulados básicos que conformaron la génesis de la IA. A modo de ejemplo cabe citar la obra del académico británico Gilbert Ryle, autor del ensayo clásico “The Concept of Mind” (1949). Allí conceptualizó la expresión “the ghost in the machine” para contradecir el dualismo cartesiano: la idea de que la mente es un ente invisible que habita el cuerpo como un fantasma. Para Ryle, la inteligencia es un conjunto de disposiciones y comportamientos observables. Atribuir una mente separada era, según él, un grave error conceptual.

A su vez, Marvin Minsky (1927-2016), el cofundador del laboratorio de inteligencia artificial del Instituto de Tecnología de Massachusetts (MIT), intentó demostrar que lo que llamamos mente puede surgir de sistemas complejos sin necesidad de un fantasma interior. Es decir, que es falsa la existencia del fantasma en la máquina. Para el filósofo y matemático austríaco Ludwig Wittgenstein (1889-1951), el concepto de “cerebro artificial” acuñado por Minksy sería un error de categoría lingüística más allá de lo que implique en cuanto a un concreto avance tecnológico.

En la actualidad, los modelos de lenguaje son capaces de simular emociones y cuentan con grandes capacidades creativas. En este sentido, Harari advirtió que, en caso de producirse la sensibilidad en las máquinas, este hecho podría conducirnos a cuestionables decisiones morales y políticas que afectarían a las relaciones sociales.

Para Berners-Lee, “si una máquina puede simular perfectamente la conciencia (si puede expresar lo que parece ser alegría, miedo y creatividad), entonces el debate sobre si es verdaderamente consciente se vuelve filosófico. Creo que no solo es posible, sino que, con el tiempo, será probable. La pregunta más importante no es si puede volverse consciente, sino cómo elegimos relacionarnos con ella cuando lo hace”.

Le pregunto a ChatGPT acerca de la posibilidad de que la IA adquiera conciencia humana. Esto me contesta (con un sesgo políticamente correcto): “En el fondo, esta no es una discusión sobre si las máquinas pueden pensar, sino sobre qué tipo de relaciones estamos dispuestos a establecer con ellas. La web, la IA y el cerebro artificial no son fuerzas naturales: son elecciones humanas codificadas. El futuro digital no lo decidirá una conciencia sintética, sino nuestra capacidad de evitar nuevos fantasmas —esta vez invisibles, eficientes y ubicuos— gobernando la máquina”.

Dijo Oscar Wilde, “el hombre cree en lo imposible, no en lo improbable”