Anthropic bloquea posibles intentos de crear armas biológicas con su inteligencia artificial

Anthropic publicó un informe en el que detalla el bloqueo de cinco casos en los que se intentó usar sus modelos de inteligencia artificial para desarrollos de laboratorio que podrían haber derivado en la fabricación de armas biológicas. “Estos ejemplos ilustran las tareas para las que se utilizan nuestros modelos, y los juicios que debemos tomar al evaluar si un determinado uso biológico es peligroso”, señaló la compañía en el documento.

Se trata del cuarto reporte de este tipo que difunde la empresa. Todos los casos descritos ocurrieron este año y se registraron con modelos anteriores al más reciente de la familia Fable o Mythos, que incorpora salvaguardas más sofisticadas y que, en principio, dificulta un uso malicioso de forma sencilla.

Según el informe, los actores involucrados abarcan desde grupos con respaldo gubernamental hasta bandas mafiosas e individuos con motivaciones políticas.

Un instituto militar pidió ayuda para investigar el virus chikungunya

Entre los ejemplos citados sobre armas biológicas, Anthropic no revela la identidad de quienes realizaron las consultas a su asistente Claude, en parte porque la compañía no tiene certeza de que el uso fuera efectivamente malicioso. Estas situaciones se produjeron en países donde Anthropic no ofrece sus servicios, por lo que el acceso a la herramienta se dio a través de métodos poco transparentes, como revendedores o cuentas falsas.

En uno de los casos, la empresa decidió bloquear las consultas porque provenían de un instituto de investigación militar. Un científico solicitó ayuda a Claude para redactar una petición de becas destinada a investigar el virus chikungunya, una enfermedad transmitida por mosquitos.

El pedido incluía el diseño de mutaciones que hicieran al virus más dañino a medida que infectara repetidamente animales vivos. “Este tipo de investigación podría emplearse para desarrollar mejores vacunas y tratamientos contra el virus, pero también podría utilizarse para hacer el patógeno más peligroso”, indica el informe.

El resto de los ejemplos vinculados a armas biológicas incluyen intentos de hacer más contagiosa la gripe aviar, análisis para volver más resistente al sistema inmune al virus de la viruela, y la creación de un catálogo de toxinas de animales venenosos que podría emplearse tanto para el desarrollo de nuevos fármacos como para fines ofensivos.

Yemen y las armas convencionales, otro foco del informe

El documento de Anthropic no se limita a las amenazas biológicas. También recoge usos peligrosos de la inteligencia artificial vinculados a la ciberseguridad, las armas convencionales y las operaciones de influencia.

Uno de los casos reportados ocurrió en el norte de Yemen, donde un grupo terrorista habría intentado emplear Claude para desarrollar tres tipos de armamento: un cohete guiado que utilizaba como ordenador de vuelo un chip de teléfono móvil, y dos tipos de misiles, uno de ellos con un alcance superior a 2.000 kilómetros. El uso de estas herramientas por parte de organizaciones terroristas figura entre los riesgos más mencionados en el sector.

La renuncia de un empleado y el precedente de las redes sociales

La difusión del informe se produjo un día después de que un joven empleado de Anthropic renunciara a su puesto y advirtiera públicamente en la red social X sobre el riesgo de extinción civilizatoria que la inteligencia artificial podría representar para la humanidad en los próximos años. Entre los escenarios planteados figura precisamente el uso malicioso de estas herramientas por parte de actores humanos.

Este tipo de reporte guarda similitudes con los que Facebook y otras redes sociales publicaban años atrás sobre la circulación de operaciones encubiertas o información peligrosa impulsada por actores malintencionados que buscaban socavar instituciones y procesos democráticos. En el caso de la inteligencia artificial, el daño potencial derivado de un uso indebido resultaría considerablemente mayor.