Un grupo de científicos pioneros de la inteligencia artificial (IA) lanzó una advertencia global sobre los potenciales riesgos catastróficos que el rápido desarrollo de esta tecnología podría acarrear. En su declaración más reciente, llaman a la creación de una autoridad internacional que supervise y regule la IA, destacando la necesidad urgente de actuar ante posibles desenlaces peligrosos.
La reunión de científicos de múltiples naciones, entre ellas Estados Unidos, China, Canadá y Singapur, tuvo lugar en septiembre en Venecia, Italia como parte del tercer encuentro de los Diálogos Internacionales sobre la Seguridad de la IA, organizados por el Safe AI Forum.
Según informó The New York Times, este foro es un proyecto de Far.AI, un grupo de investigación sin fines de lucro con sede en Estados Unidos.
Gillian Hadfield, académica legal y profesora de ciencia computacional y gobierno en la Universidad Johns Hopkins, expresó su inquietud sobre la capacidad actual de las naciones para manejar una posible catástrofe. La declaración fue firmada también por varios laureados con el Premio Turing, como Yoshua Bengio, Andrew Yao y Geoffrey Hinton.
Las preocupaciones de estos científicos se centran en la posibilidad de que la tecnología que ayudaron a desarrollar supere las capacidades humanas, lo que podría resultar en “pérdida de control humano o uso malicioso de estos sistemas de inteligencia artificial, conduciendo a resultados catastróficos para toda la humanidad”, informó The New York Times.
En el encuentro en Venecia también participaron destacados representantes de instituciones de investigación en IA de China, algunas financiadas por el estado y que asesoran al gobierno. La ex presidenta de Irlanda, Mary Robinson, y Fu Ying, ex funcionaria del Ministerio de Relaciones Exteriores de China, también brindaron su apoyo al esfuerzo.
Haciendo referencia a eventos históricos, Bengio comparó la situación con los diálogos entre científicos estadounidenses y soviéticos durante la Guerra Fría, que ayudaron a evitar una catástrofe nuclear. Él mencionó en una entrevista con The New York Times que “en ambos casos, los científicos sintieron la obligación de cerrar la caja de Pandora abierta por su investigación”.
El creciente descontento entre Estados Unidos y China en su competencia tecnológica complica aún más la cooperación. “Ambos países desconfían enormemente de las intenciones del otro”, dijo Matt Sheehan, becario en la Fundación Carnegie para la Paz Internacional, citado por The New York Times. “Están preocupados de que si frenan debido a preocupaciones de seguridad, eso permitirá que el otro avance rápidamente”, agregó.
The Times también destacó que en los últimos meses han surgido potentes tecnologías de IA en China, a la par de las estadounidenses. Mientras tanto, ambos gobiernos han dado pasos significativos en torno a la regulación.
En julio, un cónclave del Partido Comunista Chino propuso un sistema para regular la seguridad de la IA, y recientemente un grupo influyente de normas técnicas en China publicó un marco de seguridad para dicha tecnología.
En Estados Unidos, el año pasado el presidente Joe Biden firmó una orden ejecutiva que obliga a las empresas a informar al gobierno federal sobre los riesgos potenciales que sus sistemas de IA pudieran suponer, como la creación de armas de destrucción masiva o su posible uso por parte de terroristas.
Durante una reunión, Biden y el líder chino Xi Jinping acordaron que sus funcionarios discutirían la seguridad de la IA, con la primera reunión teniendo lugar en Ginebra.
Últimas Noticias
La policía de Washington identifica a un desaparecido tras casi 20 años gracias a un análisis genético
Un avanzado estudio de ADN permitió a las autoridades cerrar uno de los misterios más antiguos del estado, brindando finalmente respuestas a la familia de un pescador de cangrejos desaparecido en la costa del Pacífico
Cómo la tecnología y la inteligencia artificial están cambiando el futuro de los viñedos en California
Desde drones hasta supercomputadoras, un experimento en Sonoma revela el impacto de la conectividad y los datos en la producción de vino y en la formación de los agricultores del mañana
El auge del negocio de la longevidad en Estados Unidos: millones en inversión, diversas terapias y un debate científico abierto
Impulsada por capitales de Silicon Valley y la promesa de extender la vida saludable, la industria crece a ritmo récord, pero enfrenta críticas por la falta de evidencia clínica y vacíos regulatorios, según advierten especialistas citados por The Washington Post
Millones de personas en California y Oregon enfrentan órdenes para quedarse en casa
Las advertencias recientes activan recomendaciones especiales para los sectores más vulnerables en dichos estados
Se registran nevadas en Florida por segundo año consecutivo: ¿cuánta nieve cayó y en dónde?
Copos sobre palmeras, autos blancos y operativos especiales de tránsito marcaron una jornada extraordinaria en el sur estadounidense
