Al interior de las conversaciones sobre el fin del mundo en las empresas de IA

Los investigadores de Anthropic, OpenAI, Meta y Google intentan cada vez más generar conciencia sobre los riesgos de la inteligencia artificial.

Cuando Jacob Coxon, un investigador de Anthropic, renunció públicamente a la empresa emergente de inteligencia artificial esta semana y dio como argumento sus preocupaciones sobre la poderosa tecnología, los mensajes internos empezaron a volar.

"Es lo que todos hemos estado diciendo", escribió un empleado de Anthropic sobre los comentarios de Coxon en un chat grupal entre trabajadores que fue visto por The New York Times. "Solo que ahora es de cara al público".

"Jacob hizo público el chat grupal", escribió otro empleado. "Eso es algo bueno".

Las reacciones al interior de Anthropic encontraron eco entre los investigadores de inteligencia artificial de OpenAI, Meta y Google, quienes analizaron las publicaciones en redes sociales de Coxon que describían cómo OpenAI y Anthropic estaban "jugando con nuestras vidas" mediante la tecnología. Muchos se reunieron en canales de mensajería de la oficina, chats encriptados y cenas privadas, con el objetivo de organizarse para generar conciencia sobre los riesgos de la inteligencia artificial, según una decena de empleados de todas las empresas.

Para aquellos que han hecho de la inteligencia artificial el trabajo de su vida, el mensaje de Coxon no era nuevo. Pero sus comentarios crecieron como una bola de nieve hasta convertirse en una conversación global tal, que muchos lo vieron como el momento para pedir una mayor precaución. Algunos trabajadores de la inteligencia artificial ahora están alzando la voz ante los altos ejecutivos para instar a una pausa en el desarrollo de la tecnología de rápida evolución hasta que cuente con las salvaguardas adecuadas, dijeron seis de esas personas.

Las conversaciones subrayan las tensiones dentro de los principales laboratorios de inteligencia artificial sobre las formas más seguras de desarrollar la tecnología. Aun cuando los empleados han tomado valor para pedir una desaceleración en el desarrollo de la inteligencia artificial, empresas como Anthropic y OpenAI están compaginando las prioridades.

Ambas planean lanzar ofertas públicas iniciales de gran éxito el próximo año. Las empresas también temen que podrían enfrentar problemas antimonopolio si acordaran entre ellas tomarse un respiro en el desarrollo de la inteligencia artificial, dijeron dos personas con conocimiento del tema. Y las empresas emergentes chinas han producido modelos competitivos de inteligencia artificial, lo que plantea la posibilidad de que las empresas estadounidenses se queden atrás si reducen la velocidad.

Eso ha creado una situación delicada para los principales ejecutivos de inteligencia artificial, muchos de los cuales coinciden en que la tecnología plantea riesgos. Sam Altman, el director ejecutivo de OpenAI, escribió en una publicación de blog de 2023 que la inteligencia artificial podría "causar daños graves al mundo". Dario Amodei, el director ejecutivo de Anthropic, escribió en una columna de opinión el año pasado que la inteligencia artificial debería ser regulada para controlar los riesgos.

En una reunión de empleados esta semana, Altman dijo que OpenAI estaba dispuesta a desacelerar el desarrollo junto con los laboratorios rivales, según dos personas que asistieron. Agregó que esperaba que las desaceleraciones voluntarias se volvieran normales hasta que hubiera estándares de seguridad ampliamente reconocidos. La reunión fue reportada antes por Bloomberg.

Y el sábado, Amodei publicó un ensayo de 3800 palabras en el que pedía prudencia en el desarrollo de la inteligencia artificial. "Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de inteligencia artificial", escribió. Altman y Elon Musk, cuya empresa de cohetes SpaceX ha estado aumentando el gasto en inteligencia artificial, estuvieron de acuerdo rápidamente.

(The New York Times ha demandado a OpenAI y Microsoft, con el alegato de infracción de derechos de autor de contenido de noticias relacionada con sistemas de inteligencia artificial. Ambas empresas han negado esas afirmaciones).

Las discusiones sobre la seguridad de la inteligencia artificial han existido casi tanto tiempo como la propia tecnología. Pero su urgencia aumentó en los últimos años a medida que los investigadores lograban avances.

Las preocupaciones aumentaron en julio después de que OpenAI reveló que algunos de sus modelos de inteligencia artificial habían escapado de la contención y hackeado a Hugging Face, una empresa de inteligencia artificial. Los investigadores de inteligencia artificial se cuestionaron si podían controlar los sistemas que estaban construyendo, y empleados de OpenAI, Anthropic y DeepMind de Google se reunieron para discutir qué hacer, dijeron nueve de las personas. Muchos estuvieron de acuerdo en que la inteligencia artificial se estaba construyendo demasiado rápido.

"Los investigadores más mesurados al interior de los laboratorios que se han enorgullecido de ser imparciales ahora suenan aterrorizados", dijo en una entrevista Roy Bahat, director de la firma de inversiones Bloomberg Beta.

Algunos investigadores de inteligencia artificial crearon grupos con el objetivo de establecer salvaguardas duraderas. Un esfuerzo, la Coalition of Concerned AI Staff, comenzó como un proyecto secreto para crear "salvaguardas más sólidas" y ayudar a los trabajadores de manera colectiva a "exigirle a una empresa que cumpla con sus compromisos de seguridad".

"Si trabajas en una empresa de inteligencia artificial, puede que te estés preguntando si tú también deberías irte", dijo el jueves en redes sociales Pamela Mishkin, exempleada de OpenAI, al anunciar el esfuerzo. También alentó a quienes permanecieron en sus puestos a preguntar: "¿cómo usar tu influencia al quedarte?".

Después de que Coxon publicara su renuncia a Anthropic el martes, los trabajadores de la inteligencia artificial instaron a los altos ejecutivos de sus empresas a pausar el desarrollo de la tecnología para que tuvieran más tiempo de trabajar en ella de manera segura. Algunos bromearon diciendo que habían perdido la cuenta de las cartas abiertas que habían firmado y de la cantidad de chats grupales privados a los que pertenecían en los que hablaban sobre la seguridad de la inteligencia artificial, dijeron dos de las personas.

En una entrevista el miércoles, Coxon dijo que incidentes como el hackeo de Hugging Face habían aumentado sus preocupaciones de que los modelos de inteligencia artificial se estuvieran desarrollando mucho más rápido de lo que las empresas podían controlarlos. "Fue sobre todo un proceso emocional gradual y, al final, algo se rompió, y entonces decidí irme", dijo.

Otros trabajadores de la inteligencia artificial siguieron el ejemplo de Coxon y hablaron públicamente. Evan Hubinger, un investigador de seguridad en Anthropic, dijo en una publicación en redes sociales el martes que creía que había más de un 10 por ciento de probabilidades de que la inteligencia artificial pudiera "matar a todos los humanos" en la próxima década.

Julie Steele, una investigadora de seguridad en OpenAI, dijo esta semana que creía que las empresas de inteligencia artificial necesitaban "desacelerar". El viernes, Andreas Kirsch, un empleado de DeepMind de Google, escribió que estaba "preocupado de que la inteligencia artificial nos mate a todos, ya sea a través de riesgos a corto plazo o largo plazo, o ambos".

"Durante mucho tiempo ha existido este velo de no hablar demasiado públicamente de ello porque a la gente le daba mucho miedo ser percibida como demasiado alarmista, demasiado extrema", dijo Connor Leahy, director en Estados Unidos de ControlAI, una organización sin fines de lucro que cabildea a favor de la regulación de la inteligencia artificial. "Ahora la represa se ha roto un poco".

La avalancha de comentarios ha llamado la atención de Washington. Miembros del Congreso de ambos partidos --incluidos los senadores Bernie Sanders, independiente por Vermont, y Josh Hawley, republicano por Misuri-- han pedido investigaciones sobre la tecnología y han instado a una intervención regulatoria.

"Es un llamado de atención para el Congreso y nuestro gobierno", dijo en una entrevista el viernes el representante Ro Khanna, demócrata por California. El Congreso debería pedir la creación de una agencia reguladora de la inteligencia artificial, agregó, y "necesitamos dar un paso al frente y regular".

Las empresas de inteligencia artificial han respondido exponiendo lo que hacen en materia de seguridad y qué otras medidas pueden tomarse.

El jueves, Anthropic dijo en un comunicado que probaba regularmente sus modelos de inteligencia artificial "en busca de capacidades peligrosas en áreas como la ciberseguridad y la biología" y que compartía públicamente su investigación. "Creemos que el mundo se beneficiaría si la industria adoptara una forma legal y verificable de trabajar en conjunto para controlar el ritmo con el que lanzamos modelos potentes", dijo la empresa.

Google DeepMind declinó hacer comentarios.

Chris Lehane, el principal ejecutivo de políticas de OpenAI, dijo en una publicación de blog el miércoles que la empresa "desaceleraría o detendría el desarrollo o despliegue de sistemas" que no pudiera salvaguardar adecuadamente. Jakub Pachocki, el científico jefe de la empresa, pidió reglas de seguridad "aplicadas por una red de auditores externos, por agencias gubernamentales o por organismos internacionales".

"Me preocupa que nadie esté preparado para las consecuencias de un aumento rápido y continuo en la inteligencia de las máquinas", dijo Pachocki en una publicación de blog, y agregó: "Creo que se requieren intervenciones más amplias".

Sheera Frenkel colaboró con reportería.

Mike Isaac es el corresponsal del Times en Silicon Valley, y radica en San Francisco. Se ocupa de las empresas tecnológicas más importantes del mundo y de cómo configuran la cultura tanto en internet como fuera de ella.

Kate Conger es una reportera de tecnología radicada en San Francisco. Puede ser contactada en kate.conger@nytimes.com

Sheera Frenkel colaboró con reportería.