Cómo llegó a ser el director general de Anthropic

SAN FRANCISCO -- Una noche de 2007, Dario Amodei contó a un amigo, que estaba de visita en la Universidad de Princeton, lo que pensaba sobre "The Singularity Is Near" (Se acerca la singularidad tecnológica), un tratado de 2005 del científico en informática Ray Kurzweil.

Amodei acababa de leer el libro en el que Kurzweil predecía que la inteligencia artificial acabaría superando al cerebro humano en un momento que se le conoce como singularidad tecnológica. Mientras jugaba con su cabello, Amodei le dijo a su amigo, Colin Heckman, que ese hito podría ocurrir mientras siguieran vivos.

"Se obsesionó", dijo Heckman, que asistió a la preparatoria con Amodei en San Francisco. "Decía que la IA debía construirse bien o nos acabaría".

Amodei, que entonces tenía 24 años y estaba haciendo un doctorado en física, se encontraba en una etapa en la que se empapaba de información. Se sumergió de lleno en los blogs poco conocidos "Accelerating Future" y "Overcoming Bias", en donde los autores hablaban del potencial de la IA para acabar con la humanidad. Se metió de lleno en los foros en línea de GiveWell, una organización que buscaba maximizar la eficacia de las donaciones benéficas y en donde los intelectuales debatían cómo sacar el máximo partido al dinero para la filantropía.

Estos libros, blogs y comunidades en línea han sido de gran influencia para Amodei hasta el día de hoy, según entrevistas con más de dos docenas de sus compañeros de clase, amigos, profesores y colegas. Esto ayuda a explicar las ideas que impulsan al director ejecutivo, de 43 años, de Anthropic, una empresa que este mes va a salir a bolsa en una de las mayores ofertas públicas del mundo, y permite comprender qué piensa realmente de la IA este hombre que está a la vanguardia de la revolución de la IA.

Según sus amigos y colegas, en el núcleo de la visión del mundo de Amodei hay dos filosofías entrelazadas que comparten la convicción inquebrantable de que el razonamiento matemático puede cambiar el futuro de la humanidad.

Una es el "racionalismo", que busca aplicar un pensamiento imparcial al mundo. Defendido por personas como Eliezer Yudkowsky, un investigador autodidacta de la IA que sostiene que la IA llegará a ser lo suficientemente poderosa como para destruir la sociedad. La otra es el "altruismo eficaz", que evolucionó junto al racionalismo y busca maximizar el bien social con precisión matemática.

Para Amodei, estas corrientes de pensamiento se fusionaron en una convicción inquebrantable de que la IA podría ser tan peligrosa que solo a él y a otros tecnólogos con ideas afines se les podía confiar su desarrollo. Eso impulsó sus esfuerzos declarados por crear IA antes de que lo hicieran personas que no estuvieran preocupadas por la seguridad de la humanidad y avivó su deseo de controlar la tecnología, según contaron sus amigos y colegas.

Con la IA, "los beneficios solo se conseguirán si desarrollamos la tecnología de la forma correcta y --siempre y cuando se aproveche bien el tiempo que ganemos-- vale la pena poner un cuidado especial en hacerlo bien", escribió Amodei en un ensayo de septiembre en el que pedía que se desacelerara el desarrollo de la tecnología.

Estas ideas sentaron las bases de Anthropic, que fundó Amodei en 2021 junto a su hermana, Daniela Amodei, y otras cinco personas que también se movían en círculos racionalistas y de altruismo eficaz. Conforme ha ido creciendo la empresa, sus puntos de vista --que Amodei ha defendido en voz alta y sin descanso-- han cobrado cada vez más protagonismo.

Amodei se ha pronunciado en debates geopolíticos y ha dicho que Estados Unidos debería restringir la venta de chips a China para impedir que ese país compita en el ámbito de la IA. Ha proclamado que la IA debe regularse para evitar que la tecnología se salga de control. Asimismo, en sus disputas con el Departamento de Defensa, ha declarado que la tecnología no debería usarse para la vigilancia masiva de los estadounidenses ni implementarse en armas autónomas.

"De hecho, él cree que hay un enorme riesgo existencial sobre la mesa", dijo Nathan Avery, que corría con Amodei en el equipo de campo traviesa en la preparatoria y mantuvo muchas conversaciones profundas con él a lo largo de los años, aunque con el tiempo se han distanciado. "Necesita tomar una postura en la que pueda hacer algo al respecto".

Amodei, un multimillonario cuyo patrimonio neto va a crecer con la salida a bolsa de Anthropic, se negó a ser entrevistado a través de un representante de la empresa.

Su forma de pensar le ha hecho ganar seguidores, sobre todo entre quienes trabajan en la seguridad de la IA y afirman que Amodei está desarrollando la IA de manera responsable. Sin embargo, también se ha hecho de enemigos en Silicon Valley y Washington, donde algunos críticos --como Mark Zuckerberg de Meta y Jensen Huang de Nvidia-- lo atacan por ser un "catastrofista" y por intentar centralizar el poder en la IA. En septiembre, el Departamento de Defensa publicó en las redes sociales: "Americanismo, no altruismo eficaz".

Amodei, quien parece estar consciente de que sus ideas han generado molestia en algunos, ha intentado diferenciar públicamente sus creencias del racionalismo y del altruismo eficaz. En 2023, declaró en el podcast "Hard Fork" de The New York Times que no se consideraba un altruista eficaz.

"Me parecen bien algunas de las ideas", comentó, pero se opone a "dividir a la gente en tribus".

"¡Dario, relájate!"

Amodei y su hermana menor Daniela crecieron en el Distrito de la Misión en San Francisco. Su padre, Riccardo Amodei, era un artesano de cuero y su madre, Elena Engel, estaba a cargo de las reformas de las bibliotecas públicas. La pareja se separó en 1991, según los documentos del divorcio.

Ya cuando cursaba el noveno grado en la Lawton Alternative School, Dario Amodei destacaba. En 1997, a él y a un compañero los eligieron como "los que más probabilidades tenían de triunfar" y aparecieron en el anuario con billetes de dólar en la mano.

En el instituto Lowell, el mejor instituto público de San Francisco, Amodei era un estudiante voraz que asistía a clases en la Universidad de California, en Berkeley. Reflexionaba sobre ideas como el utilitarismo, que sostiene que las personas deberían maximizar la felicidad del mayor número posible de seres vivos, y se preocupaba por temas como el error del año 2000 y el potencial que tenía para arruinar las computadoras de todo el mundo, según contaron sus compañeros de clase.

Richard Shapiro, entonces profesor de física en Lowell, dijo que Amodei solía pensar que no rendía lo suficiente en los exámenes. "Yo le gritaba: "¡Dario, relájate!"", contó Shapiro.

En 2001, Amodei se matriculó en el Instituto Tecnológico de California en Pasadena, pero solía volver a San Francisco para ver a sus amigos y a su familia. En uno de esos viajes, fue con Avery y Heckman a un restaurante de sushi, donde debatieron sobre el utilitarismo. Amodei era vegetariano, pero defendía que no pasaba nada por comer cangrejos porque eran invertebrados.

Durante la comida, Heckman planteó un experimento mental: si alguien empieza a matar pollos a diestra y siniestra, ¿cuándo sería prudente matar a esa persona para evitar que mueran más pollos? Amodei se rio entre dientes y después dijo que "había cierto número de pollos que valdría más que un ser humano en el sentido utilitarista", recordó Avery.

Amodei, quien dijo se considera ateo, tenía convicciones muy firmes, según contaron sus amigos. En 2003, llevó a Avery y a otros a unas manifestaciones en San Francisco contra la invasión estadounidense de Irak.

El año siguiente, Amodei se trasladó a la Universidad de Stanford, en pleno corazón de Silicon Valley. El cambio lo acercó a Daniela Amodei, que estudiaba en un instituto cercano.

"Siempre quisimos salvar el mundo juntos", dijo sobre su hermana en un podcast de 2023.

La finitud del tiempo

Después de graduarse en Stanford en 2006, Dario Amodei se matriculó en un programa de doctorado en física en Princeton, para después especializarse en la aplicación de la física a la biología y en la neurociencia computacional. Ese año falleció su padre a consecuencia de una hepatitis C. Amodei se volcó en la investigación de las células de la retina y se interesó en desarrollar tecnología para acelerar el progreso científico.

Jade Wang, que salió con Amodei y fundó con él un grupo de debate científico, contó que solían hablar de cómo los científicos que dedicaban su vida a estudiar una sola enfermedad tendrían un mayor impacto desarrollando tecnología o métodos para todo su campo. Él ponía como ejemplo a su padre, que murió antes de que se descubriera un medicamento que hiciera tratables la mayoría de los casos de hepatitis C, según afirmó ella.

Para entonces, Amodei ya se había sumergido en los escritos de Kurzweil y Yudkowsky, un líder de los racionalistas. Le intrigaba especialmente la idea de Kurzweil de que las tecnologías avanzadas permitirían a los humanos existir más allá de los límites naturales, una creencia conocida como transhumanismo.

Durante la visita de Heckman a Princeton en 2007, Amodei le dijo que la singularidad tecnológica se produciría en 2040 y que los humanos podrían llegar a fusionar algún día sus mentes con las máquinas. "Con el tiempo, nos convertiríamos en la nueva IA superinteligente o en un híbrido entre IA y humano,", dijo Amodei, según Heckman.

Amodei quedó tan fascinado con esta idea que animó a sus amigos y a su hermana a asistir a la conferencia anual del Singularity Institute de Yudkowsky. (El grupo se llama ahora Machine Intelligence Research Institute.)

Yudkowsky era "uno de los pensadores más profundos que jamás haya conocido" e "intentaba explícitamente generar una singularidad que fuera beneficiosa para la humanidad", dijo Amodei a sus amigos en un correo de 2008 al que tuvo acceso el Times.

En un correo enviado al Times, Yudkowsky dijo que Amodei "actualmente no me pide ni sigue mis consejos y no recuerdo ningún momento en el que lo haya hecho".

Por aquella época, Amodei también empezó a mantener contacto por correspondencia con Elon Musk, que había fundado la empresa de cohetes SpaceX. Amodei les dijo a sus amigos que admiraba al magnate tecnológico y que había pensado en trabajar para él, pero nunca llegó a hacerlo en la empresa emergente espacial, según dijeron dos personas al tanto de la comunicación entre ambos.

En 2008, Amodei descubrió GiveWell mientras leía el blog del economista Tyler Cowen, quien publicó que la organización ofrecía "consejos interesantes" sobre organizaciones benéficas. Amodei empezó a participar activamente en las listas de correo y los foros de GiveWell, donde debatía sobre un enfoque altruista eficaz de la filantropía y la ciencia.

En 2010, escribió que estaba "pensando en dedicarme a las finanzas, lo que me permitiría donar más dinero del que dono ahora", según un correo electrónico al que tuvo acceso el Times.

En una entrada de blog para GiveWell de ese año, Amodei habló de la decisión de donar 10.000 dólares. Tenía que elegir entre donar a Stop TB Partnership, que se centraba en prevenir la tuberculosis en adultos, o a VillageReach, que ayudaba a vacunar a niños en aldeas africanas.

Stop TB Partnership, escribió Amodei, era mejor en cuanto a la "relación costo-eficacia" porque atendía a adultos y "los adultos son capaces de tener experiencias más profundas y significativas" que los bebés. "Creo que la muerte de un adulto es quizás dos o tres veces peor que la de un bebé", añadió.

Al final, Amodei cambió de opinión tras analizar cómo llevaban a cabo ambas organizaciones su labor y considerar que VillageReach era más eficaz.

En 2011, empezó una investigación posdoctoral en Stanford estudiando células cancerosas. En su vida personal, probó suplementos antienvejecimiento, seguía una rutina estricta de natación y se interesó por la reducción calórica que, de acuerdo a algunos estudios, prolongaba la vida de los ratones de laboratorio, según contaron sus amigos.

"Solía hablar a menudo de lo finito que es el tiempo y de cómo era el único recurso no renovable", dijo Avery y añadió que Amodei era "implacable con su tiempo".

A esto se sumó un diagnóstico de cáncer testicular en 2014, según contaron dos personas que lo conocen. Amodei se sometió a quimioterapia y se recuperó por completo.

Para entonces, ya se había hecho amigo de Holden Karnofsky, uno de los fundadores de GiveWell. GiveWell había empezado a colaborar con Good Ventures, la organización filantrópica del cofundador de Facebook, Dustin Moskovitz, y su esposa, Cari Tuna, que financian causas del altruismo eficaz. Amodei empezó a asesorar a la asociación GiveWell Labs sobre la financiación de las ciencias de la vida.

Por aquel entonces, Karnofsky salía con Daniela Amodei. La pareja se mudó a una casa compartida en San Francisco, a la que con el tiempo se unieron Dario Amodei, Jared Kaplan, un físico teórico y Christopher Olah, un chico que había dejado la universidad y al que Amodei había dado clases particulares de matemáticas.

Los compañeros de piso hablaban de los ensayos de Yudkowsky y exploraban el racionalismo y el altruismo eficaz, según contaron tres personas que visitaron la casa. También iban al Burning Man, el encuentro anual de contracultura en el desierto de Nevada, a veces disfrazados de animales.

Más tarde, Kaplan y Olah cofundaron Anthropic junto con Dario Amodei y Daniela Amodei. En 2025, Karnofsky también empezó a trabajar para la empresa.

El renacimiento de la IA

A principios de la década de 2010, los avances en el aprendizaje automático --algoritmos informáticos que aprenden a realizar tareas por sí mismos analizando datos-- impulsaron nuevas inversiones en IA por parte de las empresas tecnológicas.

Una de las empresas que se sumó a esta tendencia fue el gigante chino de Internet Baidu, que abrió un laboratorio en Sunnyvale (California) y contrató a un pionero de la IA, Andrew Ng, procedente de Google, como director científico. Dario Amodei se incorporó a Baidu en 2014 y pronto se hizo famoso por quedarse a pasar la noche en la oficina y por expresarse con franqueza.

"Dario discutía de forma muy agresiva prácticamente cada que podía", dijo Gregory Diamos, un investigador que trabajó con Amodei en Baidu.

Incluso al principio de esta era de la IA, los peligros potenciales de la tecnología llamaron la atención de Amodei. En 2015, les dijo a sus compañeros que la IA pronto podría igualar o superar las capacidades del cerebro humano y que las empresas que la desarrollaban no debían ignorar la posibilidad de que las cosas salieran mal, recordó Diamos.

Ese mismo año, Amodei se unió a un laboratorio de IA de Google llamado Google Brain, donde se centró en la seguridad de la IA. Él y otros cinco investigadores --entre ellos su compañero de piso Olah-- publicaron en 2016 un artículo titulado "Concrete Problems in A.I. Safety" (Problemas concretos en la seguridad de la IA), en el que explicaban cómo la tecnología podría comportarse de forma anómala si se desarrollaba de forma incorrecta.

En 2016, Amodei se unió a una nueva iniciativa de IA: una organización sin ánimo de lucro llamada OpenAI. Dirigió el equipo de seguridad y otro que estudiaba las "leyes de la escalabilidad", es decir, la idea de que los modelos de IA se vuelven más capaces a medida que se entrenan con más datos.

(El Times ha demandado a OpenAI y a Microsoft, alegando una infracción de los derechos de autor sobre contenidos informativos relacionados con los sistemas de IA. Las dos empresas han negado esas acusaciones.)

La creación de OpenAI

En OpenAI, las convicciones de Amodei sobre la forma correcta de desarrollar la IA se afianzaron, según afirmaron siete personas que trabajaron con él. Empezó a expresarse con más franqueza sobre el poder de la IA y sus posibles riesgos, y actuó para infundir su forma de pensar en el desarrollo de la tecnología.

Por ejemplo, tres días después de que Donald Trump fuera elegido presidente en noviembre de 2016, Amodei escribió en la aplicación de mensajería interna de OpenAI que le preocupaba que Estados Unidos se estuviera deslizando hacia el autoritarismo. Dijo que "no se sentía cómodo investigando tecnologías de gran potencia militar en un país autoritario", según los mensajes a los que ha tenido acceso el Times.

Amodei también escribió que el inversor Peter Thiel, que había donado 1,25 millones de dólares a la campaña de Trump, era "moralmente merecedor de condena" por ese apoyo y que OpenAI ya no debería aceptar su dinero, según los mensajes internos. (Founders Fund, una empresa de capital de riesgo fundada por Thiel, invirtió más tarde en Anthropic.)

Amodei también ayudó a cerrar un acuerdo entre OpenAI y financiadores que compartían su forma de pensar. En 2017, puso en contacto a OpenAI con la organización filantrópica dirigida por Karnofsky, de la que Amodei era asesor técnico, según contaron tres personas al tanto del acuerdo.

La organización de Karnofsky, ahora conocida como Coefficient Giving, donó 30 millones de dólares a OpenAI. Karnofsky también se unió al consejo de administración de OpenAI.

Más adelante ese mismo año, Karnofsky y Daniela Amodei se casaron. En su boda, los invitados recibieron peluches y se les premió por organizar "los emparejamientos más románticos entre los distintos personajes", según la página web de la boda de la pareja.

Dario Amodei llevó una cabeza de panda a la boda, donde el código de vestimenta para la recepción era "formal con un toque de tontería". En una foto a la que tuvo acceso el Times, aparecía disfrazado junto a Olah, que llevaba una cabeza de jirafa, y Cami Clark, una chica con la que Amodei salía por ese entonces. Él y Clark se casaron en 2022.

En 2018, Daniela Amodei se incorporó a OpenAI, para después convertirse en vicepresidenta de seguridad y políticas. Algunos empleados no tardaron en cuestionar la creciente influencia de los hermanos.

Ese diciembre, Joshua Achiam, un investigador de OpenAI, le dijo a Sam Altman, el director ejecutivo, que no sería prudente nombrar a Dario Amodei director de ética de la empresa, según contaron tres personas al tanto de las conversaciones. Achiam mencionó el creciente poder de los Amodei y dijo que la supervisión de la IA debería recaer en personas con diferentes perspectivas.

Cuando Achiam insistió en que se nombrara a un experto externo como director de ética, Dario Amodei se enfrentó a él. Amodei alzó la voz y dijo que nadie era más adecuado para el puesto que él, según contaron esas personas.

En 2018, Dario Amodei y Daniela Amodei se hicieron cargo de un proyecto de la empresa llamado GPT, abreviatura de "transformador generativo preentrenado". Exploraron una técnica de seguridad que tenía como objetivo enseñar a la IA a realizar tareas siguiendo instrucciones humanas, según contaron seis personas que trabajaban en la empresa.

Este enfoque --exponer a la IA a peligros potenciales y luego ponerla a prueba con técnicas de seguridad-- acabaría definiendo la carrera de Dario Amodei.

Greg Brockman, presidente de OpenAI, intentó ayudar con el proyecto GPT; pero Dario Amodei y Daniela Amodei se resistieron, según contaron dos personas con conocimiento de la empresa. Dario Amodei le repitió varias veces a Altman que, si no mantenía a Brockman alejado del proyecto, él se iría, según comentaron esas personas.

Para Altman, esos ultimátums fueron demasiado lejos, según una persona que conoce su forma de pensar. Rechazó las exigencias de los Amodei.

En diciembre de 2020, Dario Amodei, Daniela Amodei y otros compañeros dejaron OpenAI. Cuatro semanas después, fundaron Anthropic.