Ante los riesgos de la IA avanzada, Anthropic propone un sistema para detenerla temporalmente

La empresa estadounidense Anthropic planteó la posibilidad de establecer una pausa temporal en el desarrollo de los sistemas de inteligencia artificial más avanzados con el objetivo de dar tiempo a que la investigación, las regulaciones y las instituciones puedan adaptarse al rápido avance de esta tecnología.

La compañía advirtió que, en los próximos años, la IA podría llegar a crear de forma autónoma a sus propios sucesores, un escenario que considera con beneficios potenciales, pero también con riesgos significativos.

La propuesta fue presentada en una publicación firmada por Jack Clark, cofundador de Anthropic, y Marina Favaro, directora de The Anthropic Institute. En el documento, la firma sostiene que la evolución de los modelos de IA avanza a un ritmo superior al de las estructuras encargadas de supervisarlos, lo que abre un debate sobre la necesidad de mecanismos internacionales para gestionar este desarrollo.

La posibilidad de que la IA diseñe nuevas generaciones de IA

Según Anthropic, la industria se acerca a un fenómeno conocido como “automejora recursiva”, una situación en la que los sistemas de inteligencia artificial serían capaces de diseñar, entrenar y desarrollar versiones más avanzadas de sí mismos.

La empresa explicó que este escenario no es inevitable, pero reconoció que podría materializarse antes de que muchas instituciones estén preparadas para afrontarlo. De acuerdo con la compañía, una inteligencia artificial capaz de construir a su sucesora podría acelerar descubrimientos científicos y avances en salud, aunque también incrementaría las probabilidades de que los humanos pierdan capacidad de supervisión sobre estos sistemas.

“Si los sistemas son capaces de crear por completo a sus propios sucesores, los modos de hacerlos seguros, supervisarlos y dar forma a su comportamiento se vuelven mucho más importantes”, señaló Anthropic.

La propuesta de una pausa temporal

Ante este panorama, la compañía considera que sería beneficioso disponer de la capacidad de ralentizar o detener temporalmente el desarrollo de la denominada inteligencia artificial de frontera.

La idea, según la empresa, no consiste en abandonar la investigación, sino en crear un mecanismo que permita ganar tiempo para desarrollar medidas de seguridad, fortalecer los estudios sobre alineamiento de IA y preparar a las instituciones para gestionar tecnologías cada vez más potentes.

Anthropic también planteó la necesidad de construir sistemas capaces de verificar que los distintos actores del sector cumplan con una eventual pausa, evitando que un laboratorio o un país obtenga ventajas competitivas mientras otros detienen sus desarrollos.

La empresa destacó que una interrupción de este tipo solo tendría sentido si fuera adoptada de forma coordinada por los principales laboratorios de inteligencia artificial del mundo.

“Una pausa creíble también tiene que especificar qué la desencadena, qué la levanta y quién la arbitra”, indicó la compañía.

Claude ya participa en gran parte del desarrollo interno

La advertencia de Anthropic se produce en un momento en que la propia empresa utiliza cada vez más sus modelos de IA para acelerar tareas de programación y desarrollo.

Según datos compartidos por la compañía, actualmente más del 80% del código que se incorpora a su base de software es generado por Claude, su sistema de inteligencia artificial. Hace poco más de un año, en febrero de 2025, esa cifra era inferior al 10%.

Este crecimiento refleja la velocidad con la que las herramientas de IA están transformando los procesos internos de las compañías tecnológicas y sirve como ejemplo de las capacidades que podrían alcanzar los futuros agentes autónomos.

Un debate sobre regulación y cooperación internacional

La propuesta de Anthropic se suma a las discusiones globales sobre la gobernanza de la inteligencia artificial y los riesgos asociados a sistemas cada vez más avanzados.

La compañía considera que el desafío no solo es tecnológico, sino también político y social. Por ello, hizo un llamado a investigadores, empresas y gobiernos para trabajar en marcos de cooperación que permitan aprovechar los beneficios de la IA sin perder capacidad de control.

El planteamiento llega en un momento en que las empresas del sector compiten por desarrollar modelos más potentes y cuando organismos internacionales, expertos en seguridad y líderes tecnológicos han advertido sobre la necesidad de establecer reglas comunes para gestionar una tecnología cuyo ritmo de evolución podría superar la capacidad de respuesta de las instituciones tradicionales.