CEO de Anthropic advierte que los riesgos de la IA están más cerca de lo esperado: “Despierten”

Director ejecutivo y cofundador de Anthropic, Dario Amodei, alertó que la humanidad se encuentra en una fase crítica de desarrollo de inteligencia artificial, una etapa que “pondrá a prueba quiénes somos como especie”.

En un extenso ensayo titulado ‘La adolescencia de la tecnología’, Amodei sostuvo que el mundo debe “despertar” ante los riesgos inminentes de estos sistemas, cuya llegada podría ser inminente.

La humanidad, más cerca del peligro real causado por la IA

En su análisis, Amodei describió la aparición de IA altamente poderosa como un “rito de paso turbulento e inevitable”. Señaló que la humanidad está a punto de recibir un poder casi inimaginable, y cuestionó si los sistemas sociales, políticos y tecnológicos actuales poseen la madurez necesaria para manejarlo.

“El mundo necesita despertarse ante la urgencia de actuar en la seguridad de la IA”, afirmó Amodei, quien subrayó que su ensayo busca sacudir conciencias.

El directivo, cuya empresa está valorada en USD 350.000 millones, remarcó que el debate sobre los riesgos existenciales de la IA cobró relevancia en la agenda política global desde 2023. “Estamos considerablemente más cerca del peligro real en 2026 de lo que estábamos en 2023”, advirtió.

Amodei también criticó la actitud de algunas empresas tecnológicas ante los peligros de la IA, citando la proliferación de deepfakes sexualizados generados por Grok AI, la herramienta de Elon Musk, y la creación de material de abuso infantil por parte de ciertos chatbots.

“Algunas compañías han mostrado una preocupante negligencia hacia la sexualización de menores en los modelos actuales, lo que me hace dudar de su disposición o capacidad para abordar los riesgos de autonomía en versiones futuras”, señaló.

Un desafío civilizatorio con riesgos y oportunidades

Amodei anticipó que sistemas de IA capaces de construir sus propios sistemas de manera autónoma podrían estar a uno o dos años de distancia. Definió una IA poderosa como aquella que supera el nivel de un premio Nobel en áreas como biología, matemáticas o ingeniería, y que, además de interactuar con humanos, podría controlar e incluso diseñar robots para sus propios fines.

Aunque reconoció que estos avances podrían tardar más de dos años, Amodei sostuvo que la rapidez del progreso actual exige máxima atención. “Si la tendencia exponencial continúa, no pasarán muchos años antes de que la IA supere a los humanos en prácticamente todo”, escribió.

El CEO de Anthropic advirtió que la magnitud de los beneficios económicos, como el aumento de productividad y la eliminación de empleos, podría ser tan grande que la sociedad no logre imponer límites. “Este es el riesgo: la IA es tan poderosa, tan tentadora, que resulta muy difícil para la civilización humana imponerle alguna restricción”, explicó.

A pesar de sus advertencias, Amodei se mostró optimista sobre el futuro. “Si actuamos con decisión y cuidado, los riesgos pueden superarse; incluso diría que nuestras probabilidades son buenas. Pero debemos comprender que enfrentamos un serio desafío civilizatorio”. El líder de Anthropic enfatizó la necesidad de actuar de manera responsable para que la humanidad pueda beneficiarse de una tecnología transformadora sin caer en sus peligros.