El senador estadounidense Sanders hará un encuentro por el “riesgo existencial de la IA”

El senador estadounidense Bernie Sanders convoca a un debate urgente en el Capitolio para abordar los “riesgos existenciales” asociados al desarrollo de la inteligencia artificial. El encuentro reunirá a científicos destacados de Estados Unidos y China con el objetivo de analizar la posibilidad de perder el control sobre la IA y que “se vuelva contra la humanidad con consecuencias catastróficas”. A su vez, el legislador invita a la sociedad a participar, ya sea en forma presencial o a través de la transmisión en vivo por sus redes sociales.

En su comunicado, cita las advertencias de expertos internacionales sobre los posibles riesgos que representa la inteligencia artificial y alerta sobre su impacto en la vida cotidiana, la economía, la privacidad y la estabilidad de las instituciones democráticas. Además, señala la ausencia de regulaciones, la falta de tratados internacionales y la carencia de un debate serio en el Congreso de Estados Unidos.

Sanders retoma preocupaciones expresadas por la comunidad científica

En su carta, Sanders afirma que “casi todos los días surge un nuevo titular sobre cómo la IA está alterando el mundo”. Asimismo, menciona ejemplos como la sustitución de trabajadores, los efectos negativos sobre el bienestar emocional y cognitivo de los niños, la destrucción de la privacidad y las amenazas a la integridad de las instituciones políticas.

El senador sostiene que, si bien estos problemas son significativos, existe un desarrollo aún más preocupante en el campo de la IA: la posibilidad de perder el control sobre estas tecnologías si llegan a superar la inteligencia humana, con consecuencias potencialmente catastróficas para la civilización.

Asimismo, cita al científico Yoshua Bengio, quien advierte que “estamos jugando con fuego” y reconoce que “todavía no sabemos cómo asegurarnos de que las máquinas no se vuelvan contra nosotros”. La publicación también recoge la opinión de Geoffrey Hinton, Premio Nobel y conocido como el “padrino de la IA”, quien estima que existe entre un 10% y un 20% de posibilidades de que la inteligencia artificial “pueda acabar con nosotros”.

El senador señala el vacío regulatorio y la falta de acción política

El legislador recuerda que estas preocupaciones no son individuales ni recientes. En 2023, más de 1.000 expertos en inteligencia artificial, incluidas figuras como Elon Musk, firmaron una carta abierta en la que alertan sobre los riesgos de los sistemas de IA contemporáneos, que ya compiten con los seres humanos en tareas generales.

El texto de la carta de 2023 plantea preguntas fundamentales: “¿Debemos permitir que las máquinas inunden nuestros canales de información con propaganda y falsedades? ¿Debemos automatizar todos los empleos, incluso los gratificantes? ¿Debemos desarrollar mentes no humanas que eventualmente podrían superarnos en número, inteligencia, obsolescencia y reemplazo? ¿Debemos arriesgarnos a perder el control de nuestra civilización?”.

En su mensaje, Sanders subraya que, desde la publicación de esa carta abierta, no se ha producido una pausa en el desarrollo de la inteligencia artificial; tampoco se ha alcanzado un tratado internacional para regular la IA ni se han celebrado debates serios en el Congreso de Estados Unidos sobre esta “amenaza existencial”.

Por consiguiente, el senador define el desarrollo de la inteligencia artificial como “el avance tecnológico más trascendental de la historia humana” y sostiene que “debemos asegurarnos de que la IA beneficie a la humanidad, no que la perjudique”.