Nick Bostrom, filósofo sueco: “Cuando vamos en la dirección equivocada, lo último que necesitamos es progreso”

En una época signada por el imperativo tecnológico, donde la velocidad parece ser el único indicador de éxito, una frase del filósofo sueco Nick Bostrom irrumpe como un freno de mano conceptual: “Cuando vamos en la dirección equivocada, lo último que necesitamos es progreso”. Lejos de ser un manifiesto ludita o un lamento tecnofóbico, esta sentencia, pronunciada en una entrevista con The European Magazine en 2011, se transformó en la columna vertebral de su obra cumbre: Superinteligencia.

Para entender la frase, primero hay que entender a su autor. Nick Bostrom, fundador del influyente Instituto para el Futuro de la Humanidad de la Universidad de Oxford, no es un filósofo tradicional atrapado en la metafísica del pasado. Es un pensador del mañana. Considerado uno de los padres del transhumanismo académico, Bostrom se ha dedicado a estudiar lo que él llama los “riesgos existenciales”: aquellos peligros que no solo podrían causar una crisis global, sino exterminar por completo a la raza humana.

Cuando Bostrom habla de “dirección equivocada”, se refiere a que la humanidad corre una carrera armamentística y comercial por desarrollar Inteligencia Artificial General (AGI) y biotecnología avanzada. Sin embargo, lo hace sin haber resuelto el “problema de la alineación”; es decir, cómo asegurar que una entidad miles de veces más inteligente que el ser humano comparta nuestros mismos valores éticos y de preservación. ¿Qué certezas tenemos de que el futuro que asoma detrás del horizonte no nos aplastará?

Aunque la frase germinó en sus ponencias y entrevistas de principios de la década de 2010, encontró su ecosistema perfecto y su máxima justificación teórica en las páginas de su libro más importante: Superinteligencia: Caminos, peligros, estrategias (2014). Inmediato fenómeno de ventas y lectura obligatoria para la élite tecnológica. Figuras como el físico Stephen Hawking o los magnates Elon Musk y Bill Gates citaron el libro como la razón principal de sus propias advertencias públicas sobre la IA.

Bostrom suele recurrir a una potente metáfora conocida como “la urna de la creatividad humana”. Él lo plantea más o menos en estos términos: imaginen que la humanidad va sacando canicas de una urna gigante y que cada canica es un invento. Hemos sacado canicas blancas (la rueda, la penicilina) y canicas grises (la energía nuclear, con su doble filo). El temor de Bostrom es que en esa urna exista una canica negra: una tecnología que, por su propia naturaleza, destruya a la civilización que la descubra.

Superinteligencia: Caminos, peligros, estrategias sacó el debate del fin de la humanidad de los guiones de Hollywood —como las distopías cinematográficas al estilo de Terminator o The Matrix— y lo plantó con rigor matemático y filosófico en las agendas de los gobiernos del mundo. Bajo esta óptica, el “progreso” sin brújula ética es una trampa mortal. Si estamos caminando hacia el precipicio, acelerar el paso no es evolucionar, es suicidarse. ¿Y si el progreso es la dirección equivocada?

Para el filósofo, la verdadera madurez de una civilización no se mide por la potencia de sus máquinas, sino por su capacidad de detenerse, calcular el impacto y solo avanzar cuando el terreno es seguro. En un presente donde los algoritmos deciden qué consumimos, cómo votamos y hacia dónde marcha la economía, la advertencia de Nick Bostrom es una orden de evacuación existencial. El progreso, si ha de serlo, primero debe garantizarnos que habrá un mañana para poder disfrutarlo.

¿Quién es Nick Bostrom?

Nacido el 10 de marzo de 1973 en Helsingborg, Suecia, Nick Bostrom (cuyo nombre de nacimiento es Niklas Boström) es un polímata y filósofo de renombre mundial de 53 años. Su formación académica destaca por una notable interdisciplinaridad que combina la física teórica, la neurociencia computacional, la lógica y la inteligencia artificial. Tras obtener su doctorado en la London School of Economics en el año 2000, consolidó su carrera en la Universidad de Oxford, donde ejerció como catedrático.

Allá, en la Universidad de Oxford, dirigió el prestigioso Instituto para el Futuro de la Humanidad desde su fundación en 2005 hasta su cierre en abril de 2024. En la actualidad, continúa liderando la investigación de vanguardia como investigador principal en la Macrostrategy Research Initiative. A lo largo de su trayectoria, Bostrom ha publicado alrededor de 200 trabajos académicos, siendo el cofundador de Humanity+ (originalmente la Asociación Transhumanista Mundial).

Su producción literaria comenzó a moldear el pensamiento contemporáneo con Anthropic Bias (2002) y se expandió con Global Catastrophic Risks (2008), Human Enhancement (2009), The Fable of the Dragon-Tyrant (2005), y Superinteligencia: Caminos, peligros, estrategias (2014). Su obra más reciente es Deep Utopia: Life and Meaning in a Solved World (2024), donde explora el sentido de la existencia en un futuro hipotético donde la tecnología resolvió todos los problemas de la humanidad.