Elon Musk destaca a Anthropic frente a OpenAI: “se preocupa más por la seguridad”

Elon Musk afirmó que Anthropic presta más atención a la seguridad de la inteligencia artificial que OpenAI y propuso que las principales compañías del sector sometan sus modelos a evaluaciones cruzadas antes de cada lanzamiento.

Según sostuvo, ese mecanismo podría ofrecer una forma rápida de detectar riesgos vinculados con armas biológicas, armas nucleares o conductas deliberadamente engañosas.

El empresario hizo los comentarios durante su participación en All-In Summit, junto con la presidenta y directora de operaciones de SpaceX, Gwynne Shotwell. Musk planteó que cada empresa de inteligencia artificial cuenta con sus propios sistemas de evaluación, pero advirtió que el control interno puede dejar puntos ciegos.

Su propuesta consiste en que las compañías compartan acceso anticipado, mediante una interfaz de programación de aplicaciones (API), a los modelos que planean lanzar. De ese modo, sus rivales podrían aplicar sus propias pruebas de seguridad y alertar públicamente si identifican fallas que no hayan sido resueltas.

Musk sostuvo que el sistema crearía incentivos para que los laboratorios actúen antes de poner sus productos a disposición del público. También consideró que la posibilidad de reclamos civiles o penales elevaría el costo de ignorar advertencias de los competidores.

Qué dice Musk sobre Anthropic

Al referirse a la competencia entre las empresas que lideran el desarrollo de modelos de lenguaje, Elon Musk ubicó a Anthropic y OpenAI en el centro de la carrera tecnológica.

A su juicio, ambas compañías cuentan con sistemas de capacidades similares, una situación que dificulta que alguna reduzca el ritmo de sus lanzamientos sin perder terreno frente a la otra.

“Las dos empresas líderes en IA son Anthropic y OpenAI. Sus modelos tienen capacidades muy parecidas”, expresó. Para Musk, esa cercanía impone una presión constante sobre las firmas: una pausa en el desarrollo o en la comercialización de un modelo podría entregar una ventaja al rival.

En ese escenario, el dueño de X aseguró que Anthropic, creadora de la familia de modelos Claude, adopta un enfoque más cuidadoso en materia de seguridad. “En general, creo que Anthropic se preocupa más por la seguridad que OpenAI”, señaló.

La observación llegó después de una pregunta sobre una prueba de seguridad atribuida a OpenAI, en la que se utilizaron miles de agentes de inteligencia artificial para intentar vulnerar sistemas informáticos.

Musk calificó ese ensayo como “algo imprudente”, aunque evitó profundizar sobre los detalles técnicos del caso.

El empresario aclaró que su valoración sobre Anthropic no implica que la compañía esté libre de riesgos. “Incluso Anthropic reconoce que le preocupan sus modelos”, afirmó. También aludió a declaraciones públicas de trabajadores de la empresa, quienes han planteado inquietudes sobre el aumento de las capacidades de esos sistemas.

“Muchos empleados de Anthropic han expresado públicamente su inquietud porque sus modelos les asustan, porque se están volviendo demasiado inteligentes”, dijo Musk. La frase refleja un debate que atraviesa a las principales firmas del sector: cómo desarrollar modelos más potentes sin ampliar la posibilidad de que sean usados para fines ilícitos o actúen de maneras no previstas por sus creadores.

Musk cuestionó, además, el uso del término “laboratorios” para describir a las grandes empresas de inteligencia artificial.

“Me parece gracioso llamarlas laboratorios, porque en realidad son corporaciones con fines de lucro”, comentó. Su crítica apuntó a la tensión entre las promesas de seguridad y la competencia comercial por lanzar modelos con mayores capacidades.

Qué dice Musk sobre cómo las empresas deben probar sus IA

La propuesta de Musk parte de una idea concreta: que cada compañía someta los modelos de sus competidores a su propio conjunto de pruebas.

Esos sistemas de evaluación deberían medir, entre otros aspectos, si una inteligencia artificial podría ayudar a fabricar armas biológicas o nucleares, ejecutar acciones engañosas o comportarse como un “actor malicioso”.

“Que todos utilicen el conjunto de pruebas de los demás es probablemente lo mejor que podemos hacer para garantizar nuestra seguridad”, sostuvo. El empresario propuso que los equipos técnicos más capacitados de cada firma intenten detectar vulnerabilidades en los modelos ajenos antes de que lleguen al mercado.

El esquema requeriría que las empresas otorguen acceso a la API de un modelo antes de su lanzamiento. Ese acceso permitiría que Google, Meta, SpaceX, Anthropic, OpenAI y compañías chinas aplicaran métodos de evaluación diferentes sobre un mismo sistema.

Musk consideró que la diversidad de equipos y enfoques aumentaría las posibilidades de hallar problemas.

Según explicó, los modelos no son idénticos entre sí y cada compañía puede analizar riesgos desde perspectivas distintas. Comparó esa revisión cruzada con la corrección de un libro por parte de otra persona: quien escribió el texto puede dejar de advertir sus propios errores.