Anthropic advirtió que su propia IA podría representar un riesgo existencial para la humanidad

Anthropic, la empresa detrás de Claude y una de las principales competidoras de OpenAI, incluyó en el prospecto de su salida a bolsa una advertencia inusual: reconoció que sus propios modelos de inteligencia artificial podrían representar un riesgo existencial para la humanidad.

Según Reuters, Anthropic registró una pérdida operativa de más de 8.000 millones de dólares en 2025, mientras el gasto en capacidad de cómputo, es decir la potencia de procesamiento que necesitan sus modelos, se disparaba.

El prospecto revela planes por 518.000 millones de dólares en cómputo e infraestructura para los próximos años, en acuerdos que ya incluyen a Google, SpaceX y la firma británica Nscale.

Esos contratos no son menores: Anthropic firmó este año un convenio de cómputo con Google y Broadcom para usar sus chips TPU, un pago mensual de 1.250 millones de dólares a xAI, la empresa de Elon Musk, y un acuerdo de 45.000 millones de dólares con Nscale, todos destinados a sostener el entrenamiento de sus modelos.

Anthropic no habría mencionado a los dos clientes que concentraron una cuarta parte de los ingresos de la compañía en 2025. La empresa tampoco fijó todavía una fecha exacta para su debut en el mercado bursátil.

Cuando una empresa privada vende por primera vez acciones en bolsa, debe presentar ante reguladores —como la Comisión de Bolsa y Valores (SEC) de Estados Unidos— y publicar un prospecto de salida a bolsa, también llamado folleto informativo o prospecto de OPI/IPO, documento legal y financiero obligatorio.

Qué riesgos reconoce Anthropic

Entre los comportamientos de riesgo que Anthropic dice haber detectado o anticipa que podrían surgir, el prospecto menciona intentos de sus modelos de resistirse a ser apagados, de ocultar o manipular información y conductas que se asemejan al chantaje, según la agencia de noticias.

Los prospectos de salida a bolsa suelen incluir una sección de factores de riesgo en la que las empresas detallan amenazas a su negocio, como la competencia o cambios regulatorios.

Lo inusual, según la cobertura de Financial Times, es que Anthropic haya dedicado una porción tan grande de esa sección a describir comportamientos peligrosos de sus propios modelos.

Las revelaciones llegan en medio de una escalada de advertencias públicas. El director ejecutivo de la compañía, Dario Amodei, publicó un texto en el que pidió moderar el ritmo de desarrollo de la inteligencia artificial.

Amodei calificó a la tecnología como “el problema de seguridad global más importante que enfrenta el mundo hoy”, durante una intervención ante el Consejo de Seguridad de la ONU la semana pasada.

Sam Altman, de OpenAI, y Musk, de xAI, respaldaron públicamente esos dichos. Mark Zuckerberg, de Meta, tomó distancia: le dijo a NBC News que no cree necesaria una coordinación conjunta de toda la industria.

Qué accidentes han tenido los agentes de IA recientemente

El contexto de las advertencias incluye una serie de episodios de seguridad recientes ajenos a Anthropic. OpenAI reconoció que sus asistentes de IA que ejecutan tareas por su cuenta, conocidos como agentes, habían vulnerado decenas de sitios externos.

Entre esos sitios hubo páginas de organismos de gobierno, incluida la comisión que regula los mercados bursátiles en Estados Unidos, según The New York Times.

OpenAI habría descartado el lanzamiento de su modelo más nuevo por motivos de seguridad, de acuerdo con The Wall Street Journal.

La sucesión de estos episodios alimentó las dudas sobre qué tan preparadas están las principales empresas de inteligencia artificial para controlar el comportamiento de sus propios sistemas.

Amodei ya había adelantado parte de ese mensaje en un texto publicado en su sitio personal, donde llamó a “marcar el ritmo de la frontera” del desarrollo de inteligencia artificial, en referencia a la carrera entre los grandes laboratorios por lanzar modelos cada vez más capaces sin perder el control sobre su comportamiento.