Un trabajador de Google abandona su puesto por temor a una IA que “ya está progresando demasiado rápido”

Otro trabajador del sector tecnológico dimitió por su preocupación de que “la IA ya está progresando demasiado rápido”. Robert O’Callahan dejó su trabajo en chips de IA para Google DeepMind.

“Hoy he renunciado a Google. Disfrutaba de mi trabajo y me encantaba la gente, pero mi equipo de Goodle DeepMind estaba trabajando en una nueva generación de chips para hacer que la IA fuera mucho más rápida y barata, y creo que la IA ya está progresando demasiado rápido, así que tuve que renunciar”, dijo el exempleado de Google DeepMind.

“Millones de personas contribuyen a la aceleración de la IA, y si yo reduzco mi ritmo de trabajo, el impacto será mínimo… pero no nulo; algunas de mis habilidades son poco comunes. Consideré la posibilidad de influir positivamente en los acontecimientos desde Goodle DeepMind, pero el efecto no parece ser significativo, y también puedo influir fuera de Google”, reflexionó.

Esta nueva renuncia pública ocurre después de la de Jacob Coxon, investigador de Anthropic, quien acusó a esa empresa y a su rival, OpenAI, de “jugar con nuestras vidas”.

“Hoy renuncié a Anthropic. Pasé los últimos tres años investigando el preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos empresas actúa con responsabilidad. Están avanzando a toda velocidad hacia la superinteligencia automejorada y jugando con nuestras vidas”, expresó Coxon en un mensaje en redes sociales.

“Quienes desarrollan la IA creen sinceramente que podría acabar con todos nosotros para finales de la década”, aseguró.

La carrera por convertirse en la empresa más avanzada en inteligencia artificial provocó que las compañías dejaran de lado otras consideraciones sobre el desarrollo de esta tecnología.

Coxon especificó que, aunque Anthropic tiene más en cuenta estas cuestiones que OpenAI, ambas “están inmersas en una carrera por llegar primero”.

Desde que Coxon renunció públicamente, se desarrolló una discusión en todo el mundo sobre el futuro de la IA, sus alcances y sus posibles beneficios (o riesgos) para la humanidad.

Dario Amodei pidió ralentizar el desarrollo de la IA

El CEO de Anthropic, Dario Amodei, se refirió a la necesidad de moderar el desarrollo de la inteligencia artificial días después de las declaraciones de Caxon.

“Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganamos”, sostuvo Amodei.

En su ensayo, Amodei explicó que su propuesta busca responder a dos preocupaciones: el avance acelerado de la IA y los riesgos que plantean los enjambres de agentes. “Al igual que muchas tecnologías anteriores, la IA conlleva riesgos, y debido a su gran poder, estos riesgos son graves”, afirmó.

“Incluyen el riesgo de perder el control de los sistemas de IA, el uso indebido de la IA para ciberataques y bioterrorismo y graves trastornos económicos. Una carrera hacia la baja, impulsada por incentivos comerciales, puede agravar estos riesgos”, agregó Amodei.

Elon Musk y Sam Altman apoyaron la propuesta de Amodei, mientras que Jensen Huang y Mark Zuckerberg adoptaron posiciones diferentes.

Huang participó en una llamada con Mark Zuckerberg durante el AI Summit de Los Ángeles. Allí abordó los riesgos de la IA y respaldó la continuidad del desarrollo tecnológico.

Por su parte, Trump calificó los temores y las advertencias sobre los peligros de la inteligencia artificial como un “engaño” o una “farsa”.

Afirmó que quienes piden ralentizar el avance de la IA benefician a intereses ajenos o a competidores como China, y aseguró que Estados Unidos no permitirá que se frene este desarrollo tecnológico. Huang coincidió con esa postura y señaló que no permitirán que el desarrollo de la inteligencia artificial se detenga.

Zuckerberg, por su parte, sostuvo que cada laboratorio tiene la responsabilidad y los incentivos para avanzar al ritmo necesario con el fin de entrenar sus modelos de manera segura, así como la capacidad de adoptar sus propias medidas para garantizarlo.