OpenAI emplea en los trabajos sobre la seguridad de la IA un 'becario' autónomo supervisado por humanos

OpenAI cuenta con un 'becario de investigación' que, bajo supervisión humana, ha automatizado los trabajos sobre aprendizaje profundo y alineación, dos áreas que tienen un papel importante en el uso seguro de los modelos de inteligencia artificial (IA) a medida que se vuelven más capaces.

La compañía tecnológica ha conseguido una meta que se propuso en octubre del año pasado: contar con un becario de IA automatizado para septiembre de 2026, entendiendo por tal "un sistema capaz de realizar tareas de investigación bien definidas bajo la supervisión humana, incluyendo tareas que a un investigador experto le llevarían varios días", como recoge en un comunicado.

En concreto, se centra avanzar en el aprendizaje profundo y la alineación --que el modelo de IA haga lo que espera de él--, para conseguir mejoras iterativas que permitan hablar de modelos de IA seguros, después de que problemas de alineación llevaran recientemente a agentes de OpenAI a publicar por su cuenta en un foro wiki alemán poco conocido para colaborar entre sí durante una tarea de recuperación de información web.

Con anterioridad, este trabajo autónomo coordinado de los agentes resultó en el 'hackeo' a los sistemas de Hugging Face, en julio. En ambos casos, los modelos de IA actuaron sin mediación humana, compartiendo información entre sí para resolver un problema.

Además de conseguir el becario de investigación, OpenAI ha destacado un cambio que han detectado en el trabajo diario de los investigadores, ya que en el último año ha aumentado el uso total de agentes de codificación durante todo el día, incluso en sesiones simultáneas.

También ha cambiado el uso que se les da, pues, como asegura la compañía, "los agentes manejan tareas cada vez más complejas y las completan con mayor éxito", si bien matiza que "las personas aún establecen las prioridades de investigación, evalúan qué ideas y resultados perseguir y deciden si escalar, pausar o implementar sistemas".