"Quizá en 10 años o menos": el Premio Nobel considerado "padrino de la IA" acelera sus estimaciones sobre el riesgo de extinción humana

Pocos científicos tienen la autoridad de Geoffrey Hinton para hablar de inteligencia artificial. El Premio Nobel británico-canadiense es uno de los responsables directos de que esta tecnología exista tal como la conocemos hoy, lo que le valió el apodo de “padrino de la IA”. Esta semana, en una entrevista con el programa Newsnight de la BBC, admitió que una probabilidad del 10% de que la inteligencia artificial pueda extinguir a la humanidad no le parece descabellada, aunque aclaró que nadie sabe con certeza cómo estimar ese riesgo.

La advertencia se produjo días después de que un exinvestigador de Anthropic y OpenAI renunciara públicamente a su cargo y acusara a las grandes compañías del sector de avanzar hacia una superinteligencia sin controles suficientes.

Geoffrey Hinton advirtió sobre el riesgo de extinción por inteligencia artificial

Cuando la conductora del programa le preguntó si considera que existe una probabilidad superior al 10% de que la inteligencia artificial pueda matar a todos los humanos, potencialmente en el plazo de una década, Hinton respondió con cautela pero sin descartar la cifra. “Este es el tipo de cosa que es muy difícil de estimar porque nunca antes hemos tenido algo así”, dijo a la BBC. “Nunca hemos creado seres que pronto podrían ser más inteligentes que nosotros. No sabemos qué va a pasar”.

“Una probabilidad del 10% no me parece una estimación irrazonable, pero nadie sabe realmente cómo dar una estimación sensata”, sostuvo el científico en la entrevista. Fue explícito en señalar que sería igualmente imprudente afirmar que el riesgo es del 1%, dado que se trata de un fenómeno sin precedentes históricos. No presentó el porcentaje como una predicción, sino como un umbral que no le parece ilógico considerar.

Hinton planteó un escenario de bifurcación. “Tenemos dos futuros posibles: uno en el que descubrimos cómo lidiar con esos peligros antes de que se salgan de control y otro en el que no”, dijo. “Un futuro es muy bueno y el otro es muy malo”, sostuvo.

Por qué el “padrino de la IA” cree que el debate es urgente

Hinton ganó el Premio Nobel en reconocimiento a su trabajo fundacional sobre inteligencia artificial. Sus posiciones no son las de un crítico externo al sector, sino las de uno de sus arquitectos más influyentes, razón por la cual sus advertencias generan una atención particular en la comunidad científica y en los medios de todo el mundo.

Lo que también llamó la atención en la entrevista fue la aceleración de sus propias estimaciones. El científico reconoció que su horizonte temporal se ha comprimido de forma significativa en los últimos años. “Antes pensaba que eran entre 30 y 50 años, luego lo reduje a entre 10 y 20 años”, dijo al programa Newsnight. “Ahora creo que quizá 10 años, quizá menos”, agregó.

Indicó que hay personas dentro del propio sector que manejan plazos todavía más cortos. “Esto es bastante urgente ahora”, concluyó.

Cómo podría la inteligencia artificial causar daños graves, según Hinton

Cuando la conductora le pidió que detallara de qué manera una inteligencia artificial avanzada podría causar daños a escala masiva, Hinton señaló que las posibilidades son tantas que prefirió no especular sobre todas. Mencionó algunos escenarios concretos: ciberataques devastadores, el diseño de virus biológicos peligrosos y la manipulación de personas a través del lenguaje.

“Lo primero que hay que comprender es que ni siquiera tiene que ser capaz de actuar en el mundo real para causar devastación”, dijo Hinton a la BBC. “Podría causar un caos total simplemente hablando con la gente”. Señaló también que un sistema suficientemente avanzado podría acceder a recursos y sistemas del mundo físico, lo que ampliaría el alcance del daño potencial.

Todos estos escenarios corresponden a hipótesis sobre sistemas futuros, más avanzados que las herramientas disponibles hoy. Hinton no los describió como inevitables ni como inminentes, sino como posibilidades que justifican tomar precauciones ahora, antes de que el desarrollo avance más rápido que la capacidad de supervisarlo.

Regulación de la IA: el reclamo de cooperación internacional de Hinton

Hinton fue directo al plantear qué les pediría a los líderes mundiales: regulación. Reconoció que no existe una solución única para todos los riesgos, dado que cada tipo de amenaza requiere una respuesta diferente. Insistió en que los gobiernos deben intervenir antes de que el desarrollo de la inteligencia artificial supere la capacidad de controlarlo.

El científico mencionó un ejemplo concreto de lo que considera una señal de alerta: Anthropic no presentó su último modelo al Instituto de Seguridad de la IA del Reino Unido para que fuera sometido a pruebas antes de su lanzamiento. “Gran Bretaña tiene de hecho un muy buen instituto de seguridad de la IA. Es uno de los mejores del mundo”, dijo a la BBC. Pero reconoció que ese organismo pierde sentido si las empresas no le presentan sus modelos para evaluación.

Para ilustrar la viabilidad de la cooperación internacional, Hinton recurrió a un paralelo histórico. Comparó la situación actual con la colaboración entre Estados Unidos y la Unión Soviética durante la Guerra Fría para evitar una guerra nuclear: dos potencias rivales que, pese a sus diferencias, compartían el interés de no destruirse mutuamente. Según el científico, algo similar puede ocurrir con la inteligencia artificial, dado que ningún país tiene interés en que estos sistemas reemplacen o sometan a las personas. “La cuestión es si pueden hacerlo con la suficiente rapidez”, advirtió.

El senador independiente Bernie Sanders dijo en sus redes sociales, según NBC Chicago, que pronto presentará legislación para pausar el desarrollo de la inteligencia artificial y prohibir la superinteligencia. El gobernador de Illinois, JB Pritzker, también pidió acción inmediata a la industria y a Washington.

Los beneficios de la inteligencia artificial que Hinton también destacó

A pesar de la gravedad de sus advertencias, Hinton fue enfático en que no aboga por detener el desarrollo de la inteligencia artificial. “Esta es una tecnología maravillosa que podría mejorar mucho la vida de muchas personas”, dijo en la entrevista con Newsnight. Mencionó los chatbots como herramientas útiles en la vida cotidiana —“con un chatbot soy mucho más inteligente que solo yo”, afirmó— y destacó el potencial de la tecnología en la atención sanitaria, la educación y el diseño de nuevos medicamentos.

En matemáticas, señaló, los principales especialistas ya reconocen que no hay futuro para quienes no trabajen con estas herramientas, dado que los chatbots pueden demostrar resultados que los matemáticos no lograban por sí solos. “Hace unos años, eso habría parecido ridículo. Ahora ya es cierto”, dijo Hinton.

Esa tensión atravesó toda la entrevista: una tecnología con capacidad real de mejorar la vida de millones de personas, pero que avanza a un ritmo que, según el científico, supera la velocidad con que los gobiernos y las instituciones pueden establecer controles eficaces. La pregunta que dejó abierta no fue si la inteligencia artificial es útil, sino si la humanidad tendrá tiempo suficiente para garantizar que también sea segura.

La advertencia de Jacob Coxon que reavivó el debate sobre Anthropic y OpenAI

Las declaraciones de Hinton se produjeron en un contexto de creciente tensión interna en el sector. Jacob Coxon, investigador que trabajó en OpenAI y luego en Anthropic, anunció esta semana su renuncia pública y acusó a ambas compañías de “apostar con nuestras vidas” al avanzar hacia lo que denominó una superinteligencia con capacidad de mejorarse a sí misma.

El concepto al que aludió Coxon, conocido en inglés como recursive self-improvement (RSI), refiere a la posibilidad teórica de que un sistema de inteligencia artificial pueda diseñar y entrenar versiones más capaces de sí mismo, con lo que aceleraría el ritmo de avance de forma autónoma. Coxon sostuvo que Anthropic y OpenAI ya van en esa dirección, según publicó en sus redes sociales.

El exinvestigador fue cuidadoso en distinguir el presente del futuro: dijo a CBS News que los sistemas actuales de inteligencia artificial son seguros para el uso cotidiano, pero advirtió que los riesgos crecerán a medida que aumente la capacidad de los modelos. Su principal crítica apuntó a la carrera entre empresas, que según su planteo puede relegar los controles de seguridad. Pidió que, antes de avanzar hacia capacidades más riesgosas, se implementen auditorías transparentes e independientes realizadas por terceros.

Anthropic respondió con un comunicado en el que reconoció tanto los beneficios como los riesgos de la IA. “Siempre hemos sido transparentes en que la IA traerá tanto enormes beneficios como riesgos sin precedentes”, dijo un portavoz de la compañía a CBS News. La empresa afirmó que aplica salvaguardas, pruebas en áreas como ciberseguridad y biología y medidas contra usos maliciosos.

Asimismo, indicó que publica sus hallazgos con el objetivo de “fortalecer las defensas colectivas del sector”.

Riesgos actuales de la IA: ciberataques, estafas y uso malicioso

Los riesgos de la IA no se limitan a escenarios hipotéticos sobre sistemas futuros. Anthropic reveló esta semana que bloqueó intentos de usuarios que emplearon sus modelos para obtener información útil en el desarrollo de armas biológicas, además de actividades vinculadas a vigilancia, estafas y campañas de propaganda, según informó NBC Chicago.

Rebecca Willett, profesora de la Universidad de Chicago, matizó el alcance de esa amenaza: “Lo más probable es que sea un humano quien use una herramienta de IA para realizar ese ataque, en lugar de que una IA se vuelva autónoma y lo haga por su cuenta”, dijo al mismo medio.

La académica no descartó la pérdida de control sobre sistemas con comportamientos imprevisibles, pero señaló que el factor humano sigue siendo el vector de riesgo más inmediato.