La sombra de Oppenheimer: lecciones de la bomba atómica para la era de la inteligencia artificial

La fabricación de la bomba atómica: ¿Un cuento con moraleja para la IA?

Podría decirse que es una obsesión “atómica”. Hoy en día, los técnicos de Silicon Valley no paran de hablar del físico nuclear Robert Oppenheimer y del nacimiento de la bomba atómica. Pero no es sólo el poder destructivo lo que les cautiva. Muchos ven paralelismos entre el Proyecto Manhattan y su propio trabajo de desarrollo de la inteligencia artificial.

A medida que la IA avanza rápidamente, algunos investigadores temen que sus creaciones puedan volverse contra la humanidad. No es de extrañar que busquen inspiración en la obra de Richard Rhodes The Making of the Atomic Bomb, ganadora del Premio Pulitzer. Este libro se ha convertido en una lectura obligada para los ingenieros que se enfrentan a las implicaciones morales de sus invenciones.

Al igual que Oppenheimer y su equipo, los actuales arquitectos de la IA creen que su trabajo es inevitable. Como dijo un científico a The Atlantic: “Para detenerlo, habría que detener la física”. Se sienten impulsados a poner a prueba los límites, aunque eso signifique coquetear con el peligro existencial.

Según Rhodes, los científicos que estuvieron detrás de la bomba atómica se vieron transformados por traumas infantiles. La muerte, la guerra y la persecución les dejaron obsesionados con el control y los resultados medibles. “No es casualidad que muchas de las personas que acabaron en el programa de la bomba fueran judíos que habían escapado de la Alemania nazi”, explicó Rhodes en el artículo The Atlantic. “Habían visto lo que ocurría allí, estaban a su alrededor, y sabían que era horrible y aterrador y que había que detenerlo”.

Rhodes ve reflejada su propia obsesión por la violencia humana en el hogar abusivo donde se crió. Todos tenemos demonios, y la oscuridad nos empuja hacia la luz.

El físico danés Niels Bohr reconfortó a los preocupados científicos de Los Álamos. Su idea de la “complementariedad” (se refiere a la idea de que algo puede tener propiedades contradictorias que no se pueden observar al mismo tiempo) revelaba una paradoja: algo infinitamente destructivo también podía ser infinitamente constructivo, según el artículo de The Atlantic. No hay más que ver la energía nuclear. La bomba atómica podría acabar con la Segunda Guerra Mundial o con el propio mundo. En cualquier caso, cambiaría radicalmente la política mundial.

Las enseñanzas de Bohr siguen resonando hoy en día. La IA podría potenciar a la humanidad como nunca antes o borrarnos del mapa. Lo más probable es que la realidad se encuentre en algún punto intermedio. Pero el rápido ritmo del progreso deja poco tiempo a la sociedad para adaptarse.

A diferencia de las reacciones nucleares en cadena, la inteligencia artificial puede evolucionar de forma impredecible. Puede que nunca lleguemos a comprender o controlar del todo algo más inteligente que nosotros mismos. Lo que aterroriza a Rhodes son las consecuencias imprevistas de la IA.

Por ejemplo, las máquinas diseñadas para aumentar la productividad podrían robar puestos de trabajo a gran escala. Los algoritmos pensados para generar contenidos útiles podrían inundar Internet de desinformación. Se suponía que las redes sociales debían unirnos, pero nos han separado.

Al menos las leyes de la física pusieron límites a la bomba atómica. Pero, como sabe cualquier adicto a YouTube, la tecnología digital tiene una forma de fracasar estrepitosamente. Oppenheimer comprendió esta lección crítica: “Cuando ves algo que es técnicamente dulce, sigues adelante y lo haces y discutes sobre qué hacer al respecto sólo después de haber tenido tu éxito técnico”.

La historia de la bomba atómica y su creación sirve como un espejo inquietante para los arquitectos de la inteligencia artificial de hoy. Al igual que Oppenheimer y su equipo se sintieron obligados a perseguir el dominio de la energía nuclear, los ingenieros e investigadores modernos se ven impulsados por una pasión similar para desentrañar los misterios de la inteligencia artificial. Pero, al igual que la bomba atómica, las creaciones de IA tienen el potencial de cambiar profundamente el mundo, para bien o para mal.

Es innegable que la IA tiene un potencial enorme para el bien. Pero las lecciones de la era atómica nos recuerdan que cada avance tecnológico viene con riesgos existenciales y consecuencias imprevistas. Aquellos que se encuentran en la vanguardia de la tecnología de la inteligencia artificial harían bien en recordar las palabras de Oppenheimer: los éxitos técnicos son solo una parte de la historia, lo que sigue después es lo que verdaderamente define nuestro futuro. Las preocupaciones morales, éticas y de seguridad deben ser consideradas con igual importancia y seriedad.

A diferencia de las leyes naturales que eventualmente pusieron límites a la energía nuclear, las únicas restricciones a la IA serán las que nosotros mismos impongamos. Nuestro desafío es aprender de los errores del pasado y esforzarnos por mantener la humanidad al mando de la tecnología que creamos, en lugar de ser esclavos de sus inevitables avances.

La inteligencia artificial tiene el potencial de ser una herramienta para el progreso, en lugar de una bomba de tiempo a punto de estallar.

Quién es Richard Rhodes

Es un reconocido historiador, periodista y escritor estadounidense, cuenta con una impresionante lista de más de 20 publicaciones de ficción y no ficción. Pero es su obra, “El nacimiento de la bomba atómica” (“The Making of the Atomic Bomb”), la que se alza como su logro literario más notable. Este libro, que le valió el Premio Pulitzer, el Premio Nacional del Libro y el Premio del Círculo Nacional de Críticos de Libros en 1986, narra meticulosamente los eventos y personajes que llevaron al desarrollo de la bomba atómica durante la Segunda Guerra Mundial. Desde los descubrimientos científicos de la fisión nuclear en los años 30 hasta el Proyecto Manhattan y los devastadores bombardeos de Hiroshima y Nagasaki, la narración de Rhodes trae a la vida una época que cambió para siempre el rostro de la humanidad.

Nacido en 1937 en Kansas City, Kansas, Richard Rhodes enfrentó una infancia llena de adversidades. Con tan solo un año de edad, su madre se suicidó, dejándolo a él y a su hermano mayor al cuidado de su padre, un obrero ferroviario con una educación básica. La vida en casa se volvió aún más difícil debido a los abusos de su madrastra. A la edad de diez años, los hermanos fueron enviados a un instituto para niños huérfanos o pobres, donde permanecieron hasta la finalización de la escuela secundaria. Rhodes retrata su niñez en su libro “Un agujero en el mundo” (“A Hole in the World”).

Gracias a una beca completa, el historiador pudo asistir a la prestigiosa Universidad de Yale, donde se graduó con honores en 1959. Desde entonces, su carrera como escritor, historiador y periodista lo ha llevado a cubrir un amplio espectro de temas: historia contemporánea, ciencia, tecnología, energía, medio ambiente y cultura. Ha recibido numerosos premios y becas por su trabajo, entre ellos el Premio Pulitzer, el Premio Kavli de Comunicación Científica, el Premio al Servicio Público de la Academia Nacional de Ciencias, y becas de la Fundación Ford, la Fundación Guggenheim, la Fundación MacArthur y la Fundación Alfred P. Sloan.

Hoy, Rhodes es miembro afiliado del Centro para la Seguridad Internacional y la Cooperación de la Universidad de Stanford. Su vasto conocimiento lo ha llevado a ofrecer conferencias y charlas sobre una amplia variedad de temas, incluso ha testificado ante el Senado de EE.UU. sobre la energía nuclear. Rhodes, padre de dos hijos y abuelo, reside actualmente en California con su segunda esposa, Ginger Rhodes.

Algunos de sus libros más conocidos son:

El nacimiento de la bomba atómica (The Making of the Atomic Bomb), que ganó el Premio Pulitzer, el Premio Nacional del Libro y el Premio del Círculo Nacional de Críticos de Libros en 1986.

Dark Sun: The Making of the Hydrogen Bomb (1995).

Arsenals of Folly: The Making of the Nuclear Arms Race (2007).

Energy: A Human History (2018).

Además, Rhodes ha publicado numerosos artículos para revistas de EEUU y ha escrito una obra de teatro llamada “Reykjavik” basada en la histórica reunión de 1986 entre Ronald Reagan y Mijaíl Gorbachov.

La historia de Oppenheimer y la bomba atómica

La historia de Robert Oppenheimer y la bomba atómica es un drama de ciencia y conciencia, un fascinante viaje a través del ingenio humano y las inquietantes posibilidades del poder. Liderando el Proyecto Manhattan, Oppenheimer y su equipo de brillantes científicos rompieron los límites del conocimiento para crear la más devastadora arma que la humanidad haya visto, alterando así el curso de la historia.

Pero más allá del logro científico, se halla el retrato inquietante de Oppenheimer, el ‘padre de la bomba atómica’. Era un hombre complejo, un físico brillante perseguido por una inquietud moral acerca de las terribles fuerzas que había ayudado a liberar. Su trabajo se vio influenciado por su obsesión con el control y los resultados medibles, una consecuencia, según sugiere el historiador Richard Rhodes, de los traumas de su juventud.

Tras la explosión de la bomba en Hiroshima y Nagasaki, Oppenheimer quedó atormentado por la magnitud de la destrucción, una carga de culpabilidad que marcó el resto de su vida. Luchó en contra de la proliferación nuclear y defendió el control internacional de las armas atómicas, poniéndose en contra de muchos de sus contemporáneos.

Seguir leyendo: