Dario Amodei, director ejecutivo de Anthropic, recibió a la periodista Jo Ling Kent de CBS Sunday Morning en la sede de la empresa en San Francisco. Ella le pidió un mensaje para alguien que usa Claude o ChatGPT en su casa y tiene miedo. Su respuesta: “No te voy a mentir. Hay peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgos”.
Agregó que la idea era presentarla “lo más positiva posible”, que Anthropic nunca lo hizo pero “demasiada parte de la industria sí”, y que “todo empieza por decir la verdad”. Es la primera vez que el jefe de un laboratorio de frontera usa la palabra “mintió” sobre su propio sector.
PUBLICIDAD
La curva que no vio venir
Amodei explicó por qué escribió el ensayo en que pide frenar. “Desde antes de fundar Anthropic digo que esta tecnología está en una exponencial: uno, dos, cuatro, ocho, dieciséis, treinta y dos. Pero aun diciéndomelo a mí mismo, no creo que apreciara del todo lo que sería cuando el progreso fuera tan rápido como es”.
Sobre el punto actual de esa curva, Amodei fue gráfico: “Estamos en la parte donde empieza a ponerse empinada”.
Kent le preguntó dos veces si eso es un incendio de cinco alarmas. “No significa que haya que entrar en pánico hoy. No significa que haya que apagarlo todo. Es una señal de advertencia de que tenemos que frenar”.
PUBLICIDAD
¿Anthropic va a dejar de lanzar modelos más avanzados? “No significa eso”. La idea, explicó Amodei, es que cada nueva generación sea evaluada exhaustivamente antes de su lanzamiento.
El inspector de alimentos
Sobre los evaluadores externos que su plan propone meter adentro de cada empresa, dio la imagen que faltaba: “Es como un inspector de alimentos”.
Cuando Kent objetó que ningún inspector puede seguir el ritmo de esta tecnología, Amodei convirtió la objeción en mecanismo: los evaluadores podrán decir a qué velocidad logran seguirla, “y eso puede ser uno de los factores que fije el límite de velocidad”.
PUBLICIDAD
Le preguntaron por Jacob Coxon, el investigador que renunció diciendo que Anthropic y OpenAI “apuestan con nuestras vidas”. Amodei repitió lo que ya había dicho en CNN: que Coxon también calificó a Anthropic como “la más responsable de las grandes” y que “señalaba honestamente lo mismo que yo señalo: la dificultad estructural de la situación en la que estamos todos”.
“No estoy cómodo con que lo construya una empresa privada”
La pregunta por su responsabilidad personal produjo la respuesta más inesperada de la entrevista. “Siempre fue muy raro que esta tecnología la construya una empresa privada. La gente me pregunta todo el tiempo por qué no la construye un gobierno. Y lo más raro es que estoy de acuerdo con ellos. No estoy cómodo con eso”, reconoció Amodei.
Kent fue directa: ¿entregaría la empresa? “A la combinación correcta de gobiernos”, respondió. Le preocupa que un solo gobierno abuse de la tecnología “tan fácilmente como una sola empresa”, pero “una combinación de gobiernos elegidos democráticamente, no sé si entregarla, pero algún tipo de supervisión, algún tipo de gobernanza conjunta”.
PUBLICIDAD
Asimismo, dijo que habla “todos los días” con funcionarios de Comercio, del Tesoro y de la comunidad de inteligencia de Estados Unidos.
Cuando ella le dijo que la gente siente que “unas pocas empresas hacen lo que quieren”, contestó: “Lo sé. Sé que así se sienten. Nunca quise eso. Tenemos que encontrar la forma de que deje de ser cierto”.
El botón de apagado y el queso suizo
Sobre la idea de un interruptor para apagar la IA, dijo que “podría ser una buena idea”, con una advertencia: “Si un modelo es lo bastante poderoso, puede eludir los intentos de apagarlo, y lo hemos visto en simulaciones”.
PUBLICIDAD
Su modelo de defensa es el del queso suizo: cada capa de seguridad tiene agujeros, pero cinco capas juntas los tienen en lugares distintos y es muy difícil atravesarlas todas. “No hay una sola cosa que nos proteja”.
Sobre un límite de velocidad global a la IA, admitió: “Va a ser muy difícil, porque los incentivos para adelantarse y la ventaja militar son enormes. Honestamente, no sé si es posible. Pero deberíamos intentarlo”.
El padre, el cáncer y las burlas
Amodei contó que su padre murió de hepatitis C cuando la enfermedad era curable en un 40% de los casos, y que pocos años después un medicamento la llevó al 95%. El propio Amodei sobrevivió a un cáncer temprano que “en 1950 probablemente me habría matado”. “Siento el peso de traer los beneficios. También siento los riesgos”, reconoció.
PUBLICIDAD
Dos días antes, Anthropic había publicado un informe sobre intentos de usar sus modelos para aumentar la infecciosidad de virus.
“Casi todos los días se burlan de mí en redes porque las salvaguardas de biología de nuestro modelo son demasiado fuertes. Los estudiantes de biología se quejan. Prefiero que se burlen de mí antes que despertarme un día y descubrir que alguien usó Claude para matar a un montón de gente”, manifestó.
El plan es el mismo que publicó el sábado. Lo que cambió es la confesión: el CEO de la empresa que se presenta como la más prudente dice que su industria mintió, y que él no quiere cargar solo con este poder.
PUBLICIDAD
PUBLICIDAD