“Estamos jugando a la ruleta rusa”: Stuart Russell y su dura afirmación sobre la superinteligencia artificial

Stuart Russell, profesor de la Universidad de Berkeley y referente en el ámbito de la inteligencia artificial, lanzó una advertencia severa sobre el porvenir de la humanidad ante el desarrollo de superinteligencia artificial.

En una entrevista concedida a The Diary Of A CEO, señaló el riesgo de alcanzar un punto sin retorno, a partir del cual la humanidad podría perder el control sobre sistemas mucho más inteligentes, con consecuencias tan extremas como la extinción de la especie.

Un futuro incierto, según expertos y líderes del sector

El profesor explicó que tanto la comunidad científica como los ejecutivos de empresas tecnológicas reconocen una probabilidad significativa de un desenlace trágico. “La probabilidad de extinción que manejan los CEOs es del 25%. Deberíamos exigir un riesgo menor a uno en 100 millones por año”, sostuvo Russell, citando las estimaciones de Dario Amodei y Elon Musk. Añadió que “estamos jugando a la ruleta rusa con cada ser humano en la Tierra sin nuestro permiso”.

Russell recurrió al concepto físico del “horizonte de sucesos” para ilustrar la situación: si la humanidad ya cruzó ese horizonte, resulta imposible evitar la deriva hacia la inteligencia artificial general (AGI). “El valor económico de la AGI, estimado en 15 cuatrillones de dólares, es un imán gigante en el futuro. Cuanto más cerca estamos, más difícil es salir de ese campo”, explicó.

Presión económica, falta de control y seguridad insuficiente

El académico destacó la presión de la competencia tecnológica global, en particular entre Estados Unidos y China, que acelera la carrera por el desarrollo de sistemas avanzados sin garantías de seguridad.

Explicó que el interés económico predomina sobre el control social o la regulación estatal: “El único modo de detener la carrera es que los gobiernos intervengan y digan: ‘No queremos que esto avance hasta que sea absolutamente seguro’”.

Russell afirmó que los directivos de las principales empresas del sector, como Sam Altman (OpenAI), Demis Hassabis (DeepMind), Jensen Huang (Nvidia) y Dario Amodei (Anthropic), prevén el arribo de la AGI entre 2026 y 2035.

Sin embargo, se mostró escéptico respecto a que las compañías prioricen la seguridad sobre la rentabilidad: “Las divisiones de seguridad no pueden frenar lanzamientos. Incluso en empresas que toman más en serio el riesgo, el afán de liderar el mercado es absoluto”.

Desafíos sociales y la urgencia de la regulación

Russell alertó sobre escenarios de abundancia material, desempleo masivo y crisis existencial. “Si logramos crear AGI y resolver el problema de la seguridad, nos enfrentaremos a la cuestión fundamental de cómo vivir sabiamente cuando desaparezcan las restricciones económicas”, reflexionó. “Nadie ha podido describir ese mundo, ni siquiera desde la ciencia ficción”.

En cuanto a la posible solución, fue tajante: “Si existiera un botón para pausar el avance de la IA durante 50 años, lo pulsaría”. No obstante, insistió en que aún se puede garantizar la seguridad, siempre y cuando la inteligencia artificial se utilice como herramienta y no como reemplazo del ser humano.

Propuso crear sistemas cuyo objetivo fundamental sea alcanzar el futuro que los humanos desean, entendiendo que la máquina debe aprender a partir de la interacción con las personas.

Russell hizo un llamado a una regulación estricta y a la movilización de la sociedad civil: “La única esperanza es construir máquinas más inteligentes que nosotros, pero que siempre actúen en nuestro mejor interés”.

Agregó que la ciudadanía debe exigir garantías de seguridad antes de permitir avances significativos en la materia, ya que actualmente los responsables políticos solo atienden a las tecnológicas y sus cheques de USD 50.000 millones.

Russell dedica hasta 100 horas semanales a influir en el rumbo del sector, convencido de que se trata de la tarea más urgente y esencial en este momento.