Anthropic advierte que los sistemas de IA podrían crear versiones mejoradas de sí mismos

La posibilidad de que la inteligencia artificial diseñe y optimice sus propias versiones dejó de ser una simple premisa cinematográfica para convertirse en un asunto de análisis técnico y regulatorio. Anthropic, una de las compañías líderes en investigación de IA, alertó sobre el rápido avance hacia sistemas capaces de automejorarse con cada vez menos intervención humana.

En una publicación reciente desde el Instituto Anthropic, la empresa planteó que la “automejora recursiva” podría llegar antes de lo que prevén gobiernos e instituciones.

Actualmente, los investigadores humanos aún guían el desarrollo de modelos de IA, pero Anthropic sostiene que la intervención directa disminuye a medida que los sistemas asumen tareas de codificación, depuración e incluso investigación técnica. De acuerdo con datos internos, el código generado por el modelo Claude constituye ahora más del 80% del software implementado en los sistemas de la empresa, una cifra que era inferior al 10% antes de 2025.

Aceleración en el desarrollo y productividad

La compañía destaca que el desarrollo de inteligencia artificial se ha vuelto mucho más veloz. Según el cofundador y director de políticas de Anthropic, Jack Clark, la productividad de los ingenieros de la firma se multiplicó por ocho en los últimos dos años, gracias a la colaboración con herramientas de IA. “Siempre hemos considerado que lo mejor es dar a conocer el concepto y, básicamente, hacer que la gente se haga una idea de lo que se avecina”, explicó Clark en un comunicado reproducido por la empresa.

El ejecutivo también señaló que el progreso de la IA no da muestras de desaceleración. Este ritmo, agregó Clark, tiene el potencial de impulsar avances en campos como la medicina, la ciencia y otras disciplinas técnicas.

Mejora continua en tareas complejas

La investigación de Anthropic subraya que los modelos de IA logran resolver tareas de ingeniería de software e investigación científica cada vez más complejas y durante periodos más prolongados, sin necesidad de vigilancia permanente por parte de humanos. La duración de las tareas que pueden completar de manera confiable se duplica aproximadamente cada cuatro meses, según la empresa.

A principios de 2024, el modelo Claude Opus 3 solo podía realizar trabajos de codificación de pocos minutos. Un año después, Claude Sonnet 3.7 gestionaba tareas de unos 90 minutos y, posteriormente, Claude Opus 4.6 alcanzó la capacidad de sostener trabajos de hasta 12 horas seguidas.

Las herramientas de evaluación, como SWE-bench, han servido para medir objetivamente estos avances. Según Anthropic, los modelos de IA pasaron de registrar resultados bajos a obtener puntuaciones casi perfectas en la resolución de problemas de software de código abierto en apenas dos años. Otro indicador, CORE-Bench, mide la capacidad de reproducir investigaciones científicas publicadas: la empresa afirma que los sistemas de IA mejoraron de un 20% de éxito en 2024 a rendimientos casi totales en solo quince meses.

Riesgos, límites y vigilancia necesaria

A pesar de estos logros, Anthropic reconoce que persisten diferencias notables entre los sistemas actuales y una inteligencia artificial totalmente autónoma. Hoy, los seres humanos siguen estableciendo objetivos, evaluando resultados y definiendo qué líneas de investigación son prioritarias. Sin embargo, la compañía advierte que, a medida que los sistemas se vuelvan más autónomos y complejos, podrían surgir riesgos nuevos si las herramientas de supervisión no evolucionan al mismo ritmo.

Clark enfatizó que será fundamental desarrollar métodos confiables para validar y verificar el trabajo realizado por la IA. “Como organizaciones, y probablemente en el futuro como sociedades, necesitamos encontrar las herramientas para validar y verificar el trabajo generado por la IA”, puntualizó el ejecutivo. También insistió en que los sistemas futuros deben alinearse con los intereses y objetivos humanos.