El mundo está hablando de los peligros de la IA. Es momento de actuar.

(The Shift)

SAN FRANCISCO -- Amigos, esta será mi última columna en The New York Times. Me voy en busca de nuevas aventuras, entre ellas publicar un libro sobre la carrera por crear inteligencia artificial general y lanzar un nuevo podcast con mi copresentador de "Hard Fork", Casey Newton. Ha sido un honor pasar los últimos nueve años como su columnista de tecnología. Probamos todo tipo de dispositivos, se vendieron tokens no fungibles y me dejé seducir por chatbots desquiciados en nombre del periodismo.

Antes de irme, mi editor me invitó a compartir algunas reflexiones de despedida sobre el momento que atraviesa la IA. Así que pensé en ofrecer una breve y honesta reflexión sobre cómo me siento con respecto a la IA en estos días y cómo el trabajo periodístico que he llevado a cabo desde adentro de la burbuja tecnológica de San Francisco me ha dejado esperanzado y al mismo tiempo asustado por nuestro futuro colectivo.

Primero, la parte esperanzadora.

En los últimos días me ha sorprendido y animado la forma en que las conversaciones sobre los riesgos de la IA han pasado a ocupar un lugar central. Este mes, la renuncia que se hizo viral de un joven empleado de Anthropic, Jacob Coxon, logró lo que años de ensayos de opinión de preocupación y cumbres sobre la IA no habían logrado: centrar la atención del mundo en los peligros potencialmente extremos que plantea esta tecnología.

El fondo del mensaje de Coxon no era nada que los expertos en IA no hubieran estado diciendo desde hace años. Pero el momento en que lo hizo --apenas unos días después de nuevas revelaciones sobre el jaqueo autónomo de Hugging Face por parte de un enjambre de agentes de OpenAI, en un momento de creciente preocupación por los riesgos de la IA en general-- ayudó a que el mensaje llegara mucho más allá de la burbuja de la IA.

(Debo agregar mi declaración obligatoria sobre IA al cierre: The Times está demandando a OpenAI, Microsoft y Perplexity por presuntas violaciones de derechos de autor. Las empresas niegan las acusaciones.)

Aún más alentadora fue la respuesta al llamado público que hizo este mes Dario Amodei, director ejecutivo de Anthropic, para que se frenara a nivel mundial el desarrollo de la IA. Fue una medida que muchos investigadores de IA me habían comentado en privado y consideraban necesaria para evitar una catástrofe, pero que pocos se habían atrevido a promover públicamente.

Sam Altman, Elon Musk, Demis Hassabis y otros destacados líderes del campo de la IA hicieron eco rápidamente de las preocupaciones de Amodei y de algunas de sus recomendaciones, como el llamado a incorporar "evaluadores integrados" dentro de las principales empresas de IA para monitorear los sistemas en busca de comportamientos peligrosos.

Por lo regular, estos hombres son rivales acérrimos. (Amodei y Altman, por ejemplo, apenas se soportan y Musk tuvo este año un costoso y fallido juicio contra Altman y OpenAI). Sin embargo, los recientes y rápidos avances en las capacidades de la IA y la preocupación compartida de que sistemas rebeldes tomen el control de la infraestructura crítica parecen haberlos unido por una causa en común. Ese tipo de cooperación intersectorial será fundamental en los próximos meses y años, y fue positivo ver que se materializó tan rápido.

Para evitar las inevitables teorías de la conspiración: No, esto no es una operación psicológica coordinada, ni un plan de toda la industria para lograr la captura regulatoria. Muchas de estas figuras llevan años advirtiendo sobre la amenaza existencial de la IA, mucho antes de que tuvieran productos que vender y empresas que dirigir. La noticia es simplemente que ahora sí se les está prestando atención, después de años de haber sido tachados como alarmistas que gritan "¡Ya viene el fin del mundo!".

Al igual que Amodei y Altman, hace años que me preocupa el ritmo del avance de la IA. Hasta hace poco, parecía que hacer algo concreto para frenar la carrera era algo casi imposible. Sin embargo, la avalancha de llamados, tanto de líderes del sector de la IA como de empleados de base, a favor de una pausa global y coordinada en el desarrollo de la IA durante la semana pasada me ha hecho reconsiderar mi pesimismo.

Quizás nos encontremos en el estrecho camino hacia la utopía de la IA --uno en el que los políticos responsables y el público estén lo suficientemente alarmados por los riesgos de construir estos sistemas como para establecer algunas barreras de seguridad basadas en el sentido común, y los líderes de la IA estén temporalmente convencidos de anteponer los mejores intereses de la humanidad a sus propias ganancias. En ese mundo, una pausa coordinada podría darnos tiempo para comprender y gestionar los riesgos más graves, mientras seguimos impulsando aplicaciones más específicas de la IA en campos como la medicina y la ciencia, donde básicamente todos están de acuerdo en que debemos avanzar lo más rápido posible.

Por supuesto, hablar de los riesgos de la IA es solo una pequeña parte de la batalla. Una parte mucho más importante es hacer algo al respecto y aquí es donde soy más pesimista; siento que mi indicador interno p(catástrofe) se inclina hacia un número más alto.

Ya estamos viendo cómo la conversación entre los líderes de la IA se polariza siguiendo líneas predecibles. Tras el llamado de Amodei a "moderar el avance en la frontera", otros ejecutivos, entre ellos Jensen Huang de Nvidia, se apresuraron a tranquilizar a un público asustado asegurando que no había nada de qué preocuparse --que todo ese discurso apocalíptico que emanaba de las empresas pioneras en IA era una tontería sin fundamento científico y que la industria estadounidense de la IA debería acelerar el paso en lugar de desacelerarlo. El presidente Donald Trump pareció ponerse del lado de las aceleracioncitas, descartando los temores de que la IA tomara el control como un "engaño" y publicando en las redes sociales que "el único control o "barreras de seguridad" que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡con un alto coeficiente intelectual!)".

Dado el desdén de sus asesores hacia los que vaticinan el apocalipsis de la IA, dudo que Trump negocie algún tipo de pacto de seguridad sobre IA con China, o que haga mucho para evitar que la IA avance a una velocidad vertiginosa. También dudo que el Congreso --que tiene un historial desastroso en la regulación de nuevas tecnologías-- esté a la altura de las circunstancias.

Incluso hoy en día, muchos legisladores ven a la IA a través del estrecho prisma de otros temas polarizados por el partidismo, como la desigualdad económica o la codicia corporativa. Ampliar las preocupaciones para incluir el riesgo de extinción por culpa de la IA no es imposible, pero requiere pasar de los debates habituales sobre quién se beneficia de la IA a la pregunta más incómoda de si los humanos seguirán teniendo el control sobre ella.

Aun así, al igual que cierto expresidente, me da esperanza que estas conversaciones se estén llevando a cabo. Durante años, la IA ha sido desarrollada por un pequeño grupo de personas con ideas afines --en su mayoría investigadores en San Francisco y Londres-- y a quienes no forman parte de ese círculo se les ha excluido en gran medida de las conversaciones más importantes sobre la trayectoria y su impacto.

He entrevistado a cientos de investigadores y ejecutivos del campo de la IA durante la última década y en su mayoría se han mostrado reflexivos y decentes. No están avanzando sin tomar en cuenta las consecuencias de sus acciones, como lo hicieron los ejecutivos de las redes sociales en la década de 2010, o como lo hicieron los ejecutivos de la industria del tabaco en el siglo XX.

Muchos de ellos temen genuinamente que la tecnología que están desarrollando pueda poner en peligro o restar poder a la humanidad y han optado por desarrollarla de cualquier forma porque consideran que es inevitable y porque las alternativas --dejar que China, Corea del Norte o los sinvergüenzas del laboratorio de IA de la esquina la desarrollen primero-- parecen peores.

Aun así, los expertos en IA son un grupo aislado e imperfecto y no deberían tener la última palabra sobre el destino de la humanidad, del mismo modo que los ejecutivos de las cadenas de comida rápida no deberían elegir los estándares nutricionales globales, ni los ejecutivos de las aerolíneas deberían diseñar los protocolos de seguridad de la industria. Si la IA va a funcionar --y sigo teniendo la esperanza de que así sea--, tendrá que ser un esfuerzo colectivo. Necesitamos que más filósofos, científicos y artistas aporten su opinión sobre las decisiones espinosas y las disyuntivas que enfrentamos a medida que la IA se vuelve más poderosa.

Necesitamos que personas de todos los ámbitos de la vida se comprometan con la alineación de la IA --la cuestión técnica sin resolver de cómo crear sistemas de IA que actúen de manera confiable de acuerdo con los valores humanos-- tanto como lo hacen los equipos de OpenAI y Anthropic, y necesitamos que esas empresas desaceleren el ritmo e inviertan más agresivamente en investigación sobre seguridad.

Conceptos arcanos como la superación recursiva deben explicarse a personas sin conocimientos técnicos de manera que queden claros los riesgos y los funcionarios electos deben dejar a un lado las diferencias partidistas, informarse sobre los riesgos de la IA y ponerse a trabajar en un enfoque regulatorio que pueda minimizar la posibilidad de una catástrofe. (Una estrategia que podría funcionar se detalla en el Plan A, un escenario ficticio de un futuro positivo escrito por el AI Futures Project).

No será nada fácil; pero tal vez tengamos una breve ventana de oportunidad en la que la gente realmente está poniendo atención y al menos es posible imaginar que la IA irá por buen camino. Aprovechémosla al máximo.

El mundo está hablando de los peligros de la inteligencia artificial. Es momento de actuar. (Matt Chinworth/The New York Times)