La directora de Citi urge evitar "agentes de IA corriendo sin control"

Miami (EE.UU.), 28 sep (EFE).- La directora general del grupo financiero estadounidense Citi, Jane Fraser, urgió este lunes que no haya "agentes de inteligencia artificial (IA) corriendo sin control", mientras que el Fondo Monetario Internacional (FMI) pidió "tomar en serio" los posibles riesgos de la tecnología.

El sistema financiero y el comercio deben prepararse para un futuro en el que las soluciones de IA hagan transacciones en nombre de seres humanos, argumentó Fraser en la conferencia Sibos en Miami Beach, organizada por la plataforma de pagos Swift y considerada el mayor encuentro global de servicios financieros.

"Así que hay un montón de trabajo ocurriendo en este momento en materia de autenticación que permitirá a los agentes actuar en nuestro nombre. Hasta entonces, estoy segurísima de que no voy a tener agentes corriendo descontrolados sin los controles apropiados", expresó la directora de Citi.

El evento de cuatro días, al que asisten financieros, banqueros y figuras como la tenista Serena Williams, ocurre mientras crece el debate sobre los riesgos de la IA en Estados Unidos, donde el presidente Donald Trump rechazó este domingo las preocupaciones sobre la tecnología y mayores regulaciones.

"No me preocupa", declaró Trump en una entrevista con Fox News en la que también adelantó que cenaría el domingo con Dario Amodei, el fundador de Anthropic. "Vamos a hablar (de IA). Yo abogo por ir y ganar. Estamos un año, quizás un año y medio, por delante de China", indicó.

Sin referirse a estas declaraciones, Dan Katz, primer subdirector gerente del FMI, reconoció ahora que existe un "debate amplio sobre si los sistemas de IA, cada vez más potentes, podrían plantear riesgos tan graves para la sociedad en su conjunto que se necesiten nuevas regulaciones para frenar el ritmo de desarrollo".

"Vale la pena tomarse estas preocupaciones en serio", aseveró.

Katz enunció que "los riesgos cibernéticos están, por supuesto, en el primer lugar de la lista", al considerar que "la IA está rediseñando el riesgo cibernético al acelerar la velocidad, la frecuencia y el alcance de la detección de vulnerabilidades y su posible explotación".

En ese sentido, resaltó como un "desafío" para los funcionarios "respaldar esta innovación sin comprometer la estabilidad" del sistema financiero y "permitir que ocurra esta transformación mientras protegen contra los riesgos".

En ello coincidió la directora de Citi, quien pidió un marco regulatorio que permita que la tecnología se despliegue de una manera "segura", pero "rápida".

"No confío en mi esposo para las compras en el supermercado, así que no puedo esperar a tener un agente que vaya y las haga por mí. Uno que no solo arme la lista, sino que realmente vaya y lo haga por mí. Ese va a ser un gran cambio que esperamos, al ver que la IA ha estado dando mucha mejor información a los consumidores", dijo. EFE

(foto)(video)