El director ejecutivo de Anthropic, Dario Amodei, señaló a China como el principal obstáculo para ralentizar el desarrollo de la inteligencia artificial. Su advertencia se centró en el riesgo de que las compañías de Estados Unidos reduzcan el ritmo de avance de sus modelos mientras países adversarios deciden continuar sin aplicar las mismas restricciones.
El planteamiento llega en un momento de presión sobre la industria tecnológica. Empresas como Anthropic y OpenAI enfrentan pedidos de regulación, cuestionamientos por el consumo energético de sus centros de datos y advertencias internas sobre los posibles daños de sistemas cada vez más potentes. La discusión también coincide con el crecimiento de modelos creados por compañías emergentes chinas.
PUBLICIDAD
Amodei pidió un acuerdo para frenar la carrera tecnológica
En una entrevista con el programa Sunday Morning de CBS News, Amodei afirmó que la medida más relevante a largo plazo sería que los principales actores trabajaran juntos para establecer un límite a la velocidad de progreso de la inteligencia artificial. Sin embargo, reconoció que ese acuerdo presenta obstáculos políticos, comerciales y militares.
El responsable de Anthropic sostuvo que los incentivos para lograr ventaja tecnológica son muy altos, sobre todo por las aplicaciones militares de la IA. Por eso definió como el “dilema más difícil” la posibilidad de que China u otros países no acepten frenar el desarrollo de sus sistemas mientras las compañías occidentales sí lo hacen.
Amodei publicó un ensayo en el que propuso desacelerar la mejora de los modelos más avanzados sin renunciar a la posición comercial ni al liderazgo de Estados Unidos. Su texto surgió tras advertencias de investigadores que consideran insuficientes las salvaguardas actuales frente a tecnologías con capacidad para provocar daños graves.
PUBLICIDAD
Jacob Coxon alertó sobre el temor dentro de la industria
La preocupación adquirió otra dimensión con la salida de Jacob Coxon, investigador que trabajó en Anthropic y OpenAI. Después de su renuncia, afirmó que parte del personal del sector vive con “miedo genuino” por la velocidad de los avances y por las consecuencias que podría tener un desarrollo sin controles suficientes.
En una entrevista con la BBC, Coxon aseguró que existe una posibilidad de daños extremos si las empresas no reducen el ritmo actual. El exinvestigador describió a antiguos compañeros que evaluaban decisiones personales ante un escenario de inestabilidad tecnológica y señaló que algunos contemplaban comprar terrenos como medida de prevención.
Coxon mencionó la posibilidad de que un enjambre de bots actúe como una supercomputadora y tome el control de internet. Según su estimación, ese escenario podría aparecer en un plazo de entre seis meses y un año, aunque también señaló que investigadores del sector mantienen expectativas sobre usos positivos de la IA, como el tratamiento de enfermedades.
PUBLICIDAD
Anthropic propuso supervisión externa y coordinación internacional
El plan de Amodei se organiza en tres puntos. El primero contempla que evaluadores externos tengan un nivel de acceso equivalente al de los empleados de las empresas para revisar las prácticas de seguridad e informar sobre incidentes. Anthropic indicó que asumió ese compromiso de manera unilateral.
La segunda medida plantea que las principales compañías de inteligencia artificial de países democráticos acuerden normas comunes de seguridad y protección de semiconductores. El tercer punto pide coordinación entre gobiernos democráticos y autoritarios para limitar aplicaciones biológicas militares y la capacidad de automejora de los sistemas.
Un portavoz de Anthropic respondió a las declaraciones de Coxon y sostuvo que la compañía ha advertido de forma transparente sobre los beneficios y los riesgos sin precedentes asociados a esta tecnología. También afirmó que la empresa desarrolla modelos con medidas de seguridad y publicó un marco para reducir amenazas.
PUBLICIDAD
El presidente chino, Xi Jinping, pidió un marco global de gobernanza de la inteligencia artificial durante la cumbre de BRICS celebrada en India. También anunció que China ayudará a establecer una comunidad de código abierto de IA dentro del bloque, integrado actualmente por 11 países.
La cuestión podría aparecer en la reunión prevista entre Xi y el presidente de Estados Unidos, Donald Trump, el 24 de septiembre en la Casa Blanca. El encuentro reunirá a dos gobiernos que compiten por capacidad tecnológica y por influencia sobre las reglas que definirán el desarrollo de la inteligencia artificial.
Sam Altman, director ejecutivo de OpenAI, expresó su respaldo al ensayo de Amodei. Elon Musk y Demis Hassabis también apoyaron la necesidad de supervisión. Para Coxon, cualquier desaceleración deberá incluir a China para evitar que la competencia tecnológica se convierta en una carrera internacional sin límites.
PUBLICIDAD
PUBLICIDAD