Cuál es la preocupación sobre la inteligencia artificial, según Emmett Shear, CEO interino de OpenAI

El recién designado CEO interino de OpenAI, Emmett Shear, también ha expresado su preocupación por un potencial escenario catastrófico donde la inteligencia artificial (IA) podría mejorarse a sí misma de forma incontrolable y sin intervención humana, llegando al punto de representar una amenaza real para la existencia de la humanidad.

Shear, que se ha autoproclamado “tecnooptimista”, alerta que aunque el progreso tecnológico conlleva mayormente beneficios, la posibilidad de que la IA avance hacia la mejora autónoma representa un peligro intrínseco.

De hecho, se trataría de una probabilidad que va entre el 5% y el 50% de que suceda, aunque reconoce que aún existe incertidumbre en estas estimaciones. La amenaza aludida es tan grave que podría ser equiparable a una “bomba destructora del universo”.

Estas afirmaciones las hizo durante una entrevista en junio con el inversor Logan Bartlett, donde Shear advirtió que “este tipo de inteligencia es algo intrínsecamente muy peligroso”, “porque la inteligencia es poder” concluyó.

IA automejorable: una potencial ‘bomba’ tecnológica

La inquietud de Shear, fruto de su visión optimista del avance tecnológico, radica en el temor de lo que sería capaz una IA con habilidades superiores en todos los ámbitos del conocimiento y la creación.

Comparó esta eventualidad con la facilidad de crear “bombas de fusión” enormemente destructivas con materiales simples y comunes. Este escenario se ve agravado por la velocidad exponencial en la que la inteligencia artificial podría cerrar el ciclo de auto-mejora, haciéndola efectivamente imposible de controlar.

“Ese bucle se irá cerrando cada vez más, y cada vez más rápido, hasta que pueda mejorarse a sí misma por completo. En ese momento, será muy rápido”, afirmó Shear.

Impacto de la IA en la sociedad, una preocupación compartida

El fundador y ex CEO de OpenAI, Sam Altman, comparte preocupaciones similares a las de su sucesor, habiendo advertido previamente sobre la capacidad de la inteligencia artificial para desplazar una amplia gama de empleos.

Altman incluso aseguró que las herramientas de IA que podrían ser “potencialmente aterradoras”. Estas alarmas contribuyeron a la redacción de una carta firmada colectivamente por el empresario y expertos, solicitando que la prevención de un riesgo de extinción inducido por esta tecnología sea considerada una prioridad.

“Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial, junto con otros riesgos a escala social como las pandemias y la guerra nuclear”, aseveraron.

Shear y su rol en la IA y Twitch

Emmett Shear, quien cofundó la plataforma de streaming Twitch, fue nombrado CEO interino tras la sorpresiva destitución de Altman, a quien la junta directiva de OpenAI señaló de no haber sido “coherentemente sincero en sus comunicaciones”, sin dar más detalles.

Shear, al ser interrogado sobre la implementación de reglas para esta tecnología emergente, opina que aunque es prematuro considerar regulaciones detalladas dada la rápida evolución del sector, en el futuro podrían ser necesarias disposiciones normativas eficaces.

Esto ocurre en un contexto donde la empresa sigue siendo protagonista en la conversación global sobre el futuro de la IA y sus aplicaciones, como el modelo generativo ChatGPT y la plataforma Dall-E, ambas desarrolladas bajo la dirección de Altman.

La nueva dirección ya tiene una tarea

Pese a que los detalles exactos que llevaron al despido de Altman siguen siendo inciertos, todo apunta a una tensión entre una visión aceleracionista de Altman y una junta directiva inclinada hacia un enfoque más cauteloso.

De hecho, el anuncio de Emmett Shear (cofundador de Twitch) como CEO interino de OpenAI, llegó acompañado de un compromiso de investigar independientemente las circunstancias que condujeron al cese de Altman.

Shear ya reconoció que el manejo del despido dañó gravemente la reputación de la empresa y ha anticipado cambios significativos en el horizonte.