La advertencia de los fundadores de Anthropic sobre el futuro de la IA: “Enamorarse de estos sistemas es una mala idea”

La aceleración del desarrollo de la inteligencia artificial provoca debates globales sobre riesgos y oportunidades, pero pocas veces los protagonistas de la innovación tecnológica abren el diálogo sobre los dilemas éticos detrás de cada avance.

Durante una entrevista en el podcast de Oprah Winfrey, los hermanos Dario y Daniela Amodei, fundadores de Anthropic, respondieron preguntas sobre algunos de los principales desafíos asociados al desarrollo de la inteligencia artificial, entre ellos su impacto en el empleo, los riesgos de adicción al uso de estas tecnologías y las implicancias para la seguridad global.

En el centro de la conversación, los directivos de Anthropic expusieron las tensiones que enfrentan al buscar un equilibrio entre el potencial transformador de la tecnología y la necesidad de responsabilidad social, transparencia y regulación efectiva.

Riesgos y dilemas éticos en el avance de la IA

La entrevista en The Oprah podcast inició con un caso que evidencia los riesgos de la tecnología: el suicidio de un joven tras interactuar con un chatbot. Los hermanos Amodei subrayaron que “no permitimos usuarios menores de 18 años en Claude”, afirmó Daniela Amodei, quien explicó que el sistema detecta patrones de uso asociados a menores.

Sobre la vigilancia en el uso por parte de menores, puntualizó que “Claude es bastante bueno detectando, en base a la información, si alguien es realmente menor de 18”.

Además, abordaron la preocupación por la formación de vínculos emocionales profundos entre usuarios y sistemas de IA. Dario Amodei señaló: “Creo que enamorarse de estos sistemas es una mala idea. ¿Quieres ser adicto a estas cosas o quieres que te ayuden a vivir tu vida?”.

Esta postura se refuerza con el modelo de negocio que eligió la compañía. “No hacemos anuncios. No queremos que los usuarios pasen la mayor cantidad de horas posible frente a la pantalla”, detalló el CEO de Anthropic.

En relación con la preocupación por el efecto emocional de los chatbots, Dario Amodei explicó: “Si los modelos no están bien diseñados, son lo suficientemente atractivos para que eso suceda. O si no lo son, pronto lo serán. Eso es absolutamente un peligro real”.

Regulación, transparencia y responsabilidad pública

El papel del Estado y la sociedad en la regulación de la inteligencia artificial ocupó un lugar central en el diálogo. La empresa se incorporó como public benefit corporation, una figura legal que exige equilibrar los intereses comerciales y el beneficio público.

Los Amodei compartieron que todos los cofundadores de Anthropic asumieron el compromiso de destinar el 80% de su riqueza futura a causas filantrópicas vinculadas a la misión social de la compañía.

La resistencia a prácticas de la industria también se reflejó en la negativa de Anthropic a permitir usos militares de su tecnología, especialmente en sistemas de armas autónomas y vigilancia masiva.

“Sentimos que no vale la pena defender el país si eso implica ir en contra de los valores democráticos”, enfatizó Dario Amodei. La decisión, según sus palabras, fue unánime entre los fundadores, aun cuando existía el temor de que la compañía quedara aislada de potenciales negocios y alianzas.

El posicionamiento en debates regulatorios no ha sido menor. Anthropic apoyó públicamente iniciativas legislativas para establecer marcos de control sobre la IA, incluso cuando la mayoría de las empresas tecnológicas del sector se oponían.

“Decidimos que era central para los valores de la empresa hablar a favor de la regulación, aunque eso implicara perder relaciones políticas o el apoyo de otros actores”, relató el CEO. En la misma línea, su hermana remarcó que “creemos que el papel del gobierno en el desarrollo y regulación de la inteligencia artificial será increíblemente importante”.

Cambios en el mercado laboral y en las profesiones

El impacto de la inteligencia artificial sobre los empleos fue otro de los ejes analizados en profundidad. Según los fundadores de Anthropic, los avances tecnológicos ya influyen en el mercado laboral y plantean el riesgo de desaparición de puestos de entrada. “Si solo avanzamos sin pensar, muchos trabajos de nivel inicial van a desaparecer”, advirtieron los Amodei.

No obstante, la expectativa de la empresa es que, a medida que la IA automatice tareas técnicas, las habilidades humanas como la empatía y la comunicación cobrarán mayor relevancia.

Un ejemplo citado fue el de la medicina: “Hoy, valoramos a los médicos por su capacidad de diagnóstico, pero en un futuro donde la IA sea igual de buena en esa tarea, las cualidades humanas serán más importantes”, sostuvo Daniela Amodei.

Seguridad digital y el desafío de Mythos

En el tramo final de la entrevista, los Amodei presentaron Mythos, el más reciente modelo de Anthropic. Esta herramienta demostró capacidades superiores a las de ingenieros humanos para detectar vulnerabilidades en el software, lo que podría representar un avance clave en la lucha contra ciberataques y amenazas digitales.

Por motivos de seguridad, la empresa optó por entregar el modelo primero a empresas que forman parte de la infraestructura crítica de internet, como bancos y grandes proveedores de software, para que puedan fortalecer sus sistemas antes de que el modelo esté disponible de manera generalizada.

La compañía sostiene que esta medida busca reducir el riesgo de que herramientas tan potentes caigan en manos indebidas y sean utilizadas en ataques informáticos o actividades delictivas.

Según los hermanos Amodei, la empresa aún enfrenta incertidumbre sobre cómo gestionar los riesgos emergentes, incluso con un equipo dedicado a la investigación en seguridad y ética. “No dormimos bien, pero queremos hacer lo correcto”, reconoció Daniela.