Anthropic bloquea cinco posibles intentos de crear armas biológicas con Claude, alguna con potencial pandémico

Anthropic, creadora del asistente de IA 'Claude', ha frustrado en lo que llevamos de año al menos cinco investigaciones científicas potencialmente relacionadas con el desarrollo de armas biológicas, algunas con alto potencial pandémico.

Según se desprende del informe 'Detectar y combatir el mal uso de la IA' publicado este jueves, un mínimo de cuatro casos tuvieron vinculación con organismos estatales que Anthropic ha elegido no revelar ante la posibilidad de que se tratasen de estudios puramente académicos.

En el primero de los ejemplos, la investigación decía enmarcarse dentro de una solicitud para solicitar fondos para labores de I+D que harían al virus del chikunguña más transmisible y resistente al sistema inmunitario.

"La subvención tenía como objetivo identificar mutaciones potenciadoras en el virus del chikunguña, transformarlas en clones infecciosos y seleccionar las más virulentas 'in vivo'. En otras palabras, el virus se volvería progresivamente más dañino a medida que infectara repetidamente a animales vivos y los investigadores conservarían las variantes más patógenas en cada iteración", ha resumido el documento.

La multinacional ha destacado que el conocimiento obtenido podría emplearse en la creación de vacunas o tratamientos, si bien el hecho de que el formulario de la subvención indicase que los científicos serían civiles, pero que los hallazgos se reproducirían en un laboratorio militar, precipitó el bloqueo de la cuenta de Claude.

Según la Organización Mundial de la Salud (OMS), el chikunguña es una enfermedad transmitida por mosquitos que provoca fiebres y un dolor "incapacitante" en las articulaciones que remite a los días, pero que puede persistir durante meses o años.

De su lado, Anthropic ha constatado el intento por parte de un organismo estatal de usar sus modelos de IA para estudiar venenos no contagiosos. Además, acabó bloqueando a otro usuario que investigaba toxinas bacterianas y proteínas de fiebres hemorrágicas virales con capacidad pandémica, léase el ébola.

La tecnológica estadounidense también ha detectado iniciativas similares, pero con fines menos sospechosos, para investigar el virus causante de la viruela o la adaptación de la gripe aviar a los mamíferos.