Sam Altman advirtió que la IA podría extinguir a la humanidad pero pidió no detener su desarrollo y uso

El CEO de OpenAI, Sam Altman, ha expresado su alarma sobre la posible amenaza existencial que la Inteligencia Artificial (IA) podría representar para la humanidad durante una reciente audiencia en el Senado en Washington, DC. El impulsor de la herramienta ChatGPT abogó por regulaciones que equilibren el potencial revolucionario de la tecnología con las medidas necesarias para mitigar su posible dominio sobre los humanos.

Después de la audiencia, CNN reportó que Altman y otros ejecutivos de alto nivel del campo de la IA firmaron una carta en la que instaban a mitigar el riesgo de extinción de la humanidad por la tecnología, colocándola como una prioridad global al mismo nivel que otras amenazas a gran escala, como las pandemias y la guerra nuclear.

El mensaje de la carta subraya una dinámica preocupante en Silicon Valley: mientras algunos ejecutivos advierten del potencial catastrófico de la IA, también se apresuran a invertir en ella y a implementarla en productos que alcanzan a miles de millones de personas.

Altman se mantiene optimista sobre el desarrollo seguro de la IA, a pesar de las críticas y la presión regulatoria. Ha asegurado que se está moviendo responsablemente e incluso ha participado en reuniones con los líderes de la Casa Blanca para destacar la importancia del desarrollo ético y responsable de la inteligencia artificial.

Sin embargo, algunos, como Elon Musk, cofundador de OpenAI, han instado a la organización a proceder con más cautela, sugiriendo una pausa en la formación de los sistemas de IA más potentes durante al menos seis meses debido a los “profundos riesgos para la sociedad y la humanidad”. A pesar de coincidir con algunas partes de la carta, Altman ha indicado que una pausa no sería la forma óptima de abordar los retos asociados.

Futurism señaló que la creación de una Inteligencia Artificial General (AGI), la cual pueda igualar la función cognitiva humana, es aún lejana. Pero consideraron que las advertencias de Altman son pertinentes.

“Espero que la inteligencia artificial sea capaz de una persuasión sobrehumana mucho antes de que sea sobrehumana en inteligencia general, lo que puede llevar a resultados muy extraños”, escribió el CEO de OpenAi en su perfil de X.

Unos episodios recientes han demostrado que los bots de IA pueden desempeñar roles manipulativos en eventos preocupantes, como en el caso de un joven de 19 años, Jaswant Singh Chailque, quien fue convencido por un bot para planificar el asesinato de la Reina Isabel.

También se hace evidente el posible impacto de la IA en la capacidad de actores malintencionados para engañar a las masas. Sin embargo, con la prominencia y la influencia de OpenAI, Altman podría ser uno de los humanos más capaces de mitigar estos “resultados extraños”, aseguró Futurism.

OpenAI ha irrumpido en el panorama tecnológico con ChatGPT, una IA generativa capaz de producir imágenes y textos en respuesta a las solicitudes de los usuarios. Esta herramienta ha demostrado un enorme potencial en múltiples sectores, desde la educación hasta la salud.

Sin embargo, CNN indicó que la capacidad de esta inteligencia artificial también ha despertado preocupaciones sobre la posibilidad de que perjudique a los trabajadores humanos y se utilice para fines nefastos, como la manipulación de votantes o la difusión de desinformación.

Según estimaciones de Goldman Sachs, hasta 300 millones de empleos a tiempo completo podrían ser automatizados de alguna manera por IA generativa.