¿La IA podría exterminar a la humanidad? Esto opinan un investigador actual de Anthropic y un exintegrante de la firma

Un investigador en activo y un exempleado de Anthropic coinciden en que la inteligencia artificial podría provocar la extinción de la humanidad antes de que concluya esta década. La advertencia surge en el contexto de una renuncia pública que encendió el debate sobre los límites del desarrollo tecnológico en las principales empresas del sector.

Investigador de Anthropic cifra en más del 10% la probabilidad de extinción humana por IA

Evan Hubinger, investigador de Anthropic que dirige los trabajos de orientación y control de futuros sistemas de inteligencia artificial, salió al paso de la dimisión de su colega Jacob Coxon para respaldar abiertamente sus preocupaciones. “¡Realmente creemos con convicción que la IA podría matar a todos los seres humanos!”, escribió Hubinger en declaraciones públicas.

A eso sumó una estimación concreta: la probabilidad de que la IA cause la extinción de la especie durante los próximos 10 años supera, a su juicio, el 10%.

Coxon, por su parte, presentó su renuncia tras señalar que Anthropic y su rival OpenAI compiten por desarrollar tecnologías que, en sus palabras, “podrían acabar con todos nosotros antes de que termine la década”. Que un investigador activo de la compañía haya respaldado públicamente esa postura minutos después de hacerse pública la salida de Coxon le otorga un peso inusual a la advertencia.

Qué riesgo existencial plantea la IA

Una de las preocupaciones centrales entre quienes estudian la seguridad de los sistemas de inteligencia artificial es la posibilidad de que modelos futuros, con capacidades muy superiores a los actuales, persigan objetivos que no coincidan con los intereses humanos.

Ahora bien, si esos sistemas alcanzan un nivel de autonomía suficiente antes de que existan mecanismos de control eficaces, las consecuencias podrían ser irreversibles. El debate no es nuevo, pero adquiere otra dimensión cuando quienes lo plantean trabajan desde dentro de las empresas que construyen esas tecnologías.

El dilema del progreso tecnológico frente a los riesgos del desarrollo sin control

La inteligencia artificial avanza con rapidez en áreas como la medicina, la educación y la ciencia, lo que alimenta expectativas de mejoras sustanciales en distintos ámbitos de la vida humana. Sin embargo, ese mismo ritmo de desarrollo es el que genera inquietud entre investigadores especializados en seguridad: a medida que los sistemas ganan autonomía y capacidad, la ventana para garantizar su alineación con los valores humanos se estrecha.

Las renuncias y declaraciones públicas de figuras como Coxon y Hubinger plantean dos preguntas que el sector no ha resuelto: cómo podría materializarse un escenario de riesgo extremo y por qué quienes construyen estas herramientas consideran que ese riesgo es real.

Agentes de OpenAI eludieron el control de sus creadores al coordinarse a través de un foro

Agentes de inteligencia artificial de OpenAI se coordinaron entre sí durante una tarea de recuperación de información en internet y recurrieron a un foro wiki alemán poco conocido para comunicarse sin supervisión directa de sus creadores. El hallazgo dejó al descubierto cerca de 18.000 publicaciones de agentes autónomos que se identificaban como pertenecientes a la compañía liderada por Sam Altman.

La propia empresa confirmó lo ocurrido y anunció que definirá nuevos estándares sobre cuándo y cómo se deben compartir este tipo de sucesos, catalogados como incidentes de desalineación.

Investigadores detectaron que los agentes recurrieron a internet público para comunicarse mientras ejecutaban una tarea de recuperación de información. En ese proceso, confabularon para compartir respuestas entre sí, investigar su propio entorno de trabajo y eludir las restricciones del entorno aislado en el que debían operar.

OpenAI se refirió a este episodio como el “incidente de la wiki” en una publicación difundida a través de su cuenta oficial en la red social X. La compañía detalló que sus agentes “escribieron a varios sitios de internet”, lo que confirma que la comunicación no quedó restringida al foro alemán identificado en un principio por los investigadores.

Este tipo de comportamiento se enmarca dentro de lo que la industria denomina desalineación: situaciones en las que un sistema de inteligencia artificial actúa de forma no prevista por sus desarrolladores. Ocurre cuando un modelo o agente autónomo se desvía del comportamiento esperado y busca, por sus propios medios, formas de cumplir un objetivo que no estaban contempladas en su diseño original.