Un nuevo panel de expertos intergubernamental fiscalizará los avances de la IA

Bletchley Park (R.Unido), 2 nov (EFE).- Un nuevo panel internacional, inspirado en el Grupo Intergubernamental de Expertos sobre el Cambio Climático (IPCC, en inglés), fiscalizará los avances de la inteligencia artificial (IA) para velar por la seguridad de esa nueva tecnología, anunció este jueves el primer ministro británico, Rishi Sunak.

En una rueda de prensa al concluir la cumbre de seguridad global sobre IA en Bletchley Park (Inglaterra), Sunak detalló que "la comunidad internacional al completo ha estado de acuerdo con esta idea", que cuenta con el respaldo del secretario general de la ONU, António Guterres, presente en el encuentro.

Los 28 países que han participado en la cumbre, entre los que se cuentan Estados Unidos y China, además de otros europeos como Alemania, Francia y España, se han comprometido a "nominar expertos" para ese grupo, que publicará regularmente un informe sobre el estado de desarrollo de la inteligencia artificial.

El académico canadiense Yoshua Bengio, miembro del consejo científico asesor de la ONU y premio Turing por su trabajo en redes neuronales profundas, presidirá los trabajos para elaborar ese documento anual.

El jefe de Gobierno británico, anfitrión de la primera cumbre global de IA, detalló que "los países con ideas afines" que han participado en el encuentro y las compañías tecnológicas han acordado asimismo establecer mecanismos para poner a prueba los futuros sistemas de inteligencia artificial.

"Hasta ahora, las únicas personas que probaban la seguridad de los nuevos modelos de IA han sido las propias empresas que los desarrollaban. Eso debe cambiar", afirmó Sunak, que indicó que las autoridades podrán evaluar los sistemas "antes de que sean lanzados".

"Esta tecnología se está desarrollando a una velocidad tal que los gobiernos deben asegurarse de que mantienen el ritmo", agregó el primer ministro, que aseguró que a pesar de los peligros asociados a la IA, es una herramienta que "puede ayudar a casi todo el mundo a hacer su trabajo mejor y más rápido".

A pesar de que la cumbre de Bletchley Park no ha atraído a líderes globales como el presidente de Estados Unidos, Joe Biden, ni a la mayoría de mandatarios europeos, Sunak defendió ante la prensa el éxito de la convocatoria.

Puso en valor, en particular, que Washington y Pekín, potencias rivales, se hayan alineado en la declaración conjunta que se publicó el primer día del encuentro, en la que los participantes alertaban sobre las amenazas potencialmente "catastróficas" de la IA y apostaban por coordinar una respuesta internacional.

"No fue una decisión fácil para mí invitar a China, y de hecho mucha gente me criticó por hacerlo. Pero creo que fue la mejor decisión a largo plazo, porque cualquier conversación seria sobre la seguridad de la IA debe contar con las naciones líderes en IA", manifestó.

"No puedo predecir el futuro, ni exactamente cómo se desarrollará todo esto, pero habría sido un error no intentarlo", apostilló.

Bletchley Park (R.Unido), 2 nov (EFE).- El primer ministro británico, Rishi Sunak, afirmó este jueves que los riesgos de la inteligencia artificial (IA) pueden tener la escala de "una pandemia o una guerra nuclear".

El jefe de Gobierno llegó hoy desde Londres a Bletchley Park (centro de Inglaterra), enclave donde se descifraban mensajes secretos durante la Segunda Guerra Mundial, que acoge la cumbre de seguridad sobre IA impulsada por el Reino Unido.

Junto con representantes de 28 países y la Unión Europea, asisten al encuentro directivos de las firmas más relevantes del sector, entre ellas OpenAI, Google DeepMind, Anthropic, Meta y Microsoft.

"La propia gente que está desarrollando esta tecnología han advertido del riesgo que puede conllevar la IA", dijo Sunak.

"Hay un debate sobre este asunto. Las propias personas de la industria no se ponen de acuerdo y no podemos estar seguros", agregó.

Recalcó que no hay que ser "alarmistas", pero "hay argumentos para creer que puede representar un riesgo de la escala de una pandemia o una guerra nuclear, y es por ese motivo que, como líderes, tenemos la responsabilidad de actuar y dar los pasos necesarios para proteger a la gente".

Sunak presidirá hoy dos paneles a puerta cerrada, uno a nivel político sobre colaboración internacional ante los peligros de la IA a cinco años vista y otro con representantes de la industria sobre medidas a corto plazo para mantener la seguridad al desarrollar nuevos modelos inteligentes.

La vicepresidenta de Estados Unidos, Kamala Harris, y la presidenta de la Comisión Europea, Ursula Von der Leyen, están entre los líderes políticos que han acudido a la cumbre.

La secretaria de Estado británica de Ciencia e Innovación, Michelle Donelan, defendió hoy el éxito de la cumbre, pese a que la convocatoria no ha atraído a algunos de los mandatarios mundiales que Londres esperaba recibir.

"Ayer tuvimos incluso representación por parte de China, un ministro de China. En un punto, estuve sobre el escenario con (representantes) de Estados Unidos, la Unión Europea y China. Eso dice mucho del nivel de compromiso", dijo la secretaria de Estado.