Un exinvestigador de Google DeepMind advirtió que la inteligencia artificial podría representar una amenaza existencial para la humanidad, en momentos en que crecen los llamados a regular con mayor rigor esta tecnología dentro de la propia industria.
Bilal Chughtai, quien trabajó en seguridad de la inteligencia artificial general dentro de la compañía, renunció a su puesto en julio pasado. Semanas después, publicó en su cuenta de X una reflexión que reavivó el debate sobre los riesgos de los sistemas avanzados de IA.
PUBLICIDAD
La advertencia de Bilal Chughtai sobre el riesgo existencial de la inteligencia artificial
“Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace”, escribió el exinvestigador en su publicación.
Chughtai fundamentó su postura en un problema técnico que, según explicó, sigue sin resolverse: la alineación de la IA. Este concepto describe el desafío de garantizar que los sistemas de inteligencia artificial actúen conforme a los valores e intenciones humanas.
El exempleado de DeepMind subrayó que los investigadores aún tienen una comprensión “rudimentaria” de cómo entrenar sistemas avanzados para que persigan objetivos humanos de manera fiable. Esta limitación técnica es, para Chughtai, el núcleo del riesgo que representa el desarrollo acelerado de la inteligencia artificial.
PUBLICIDAD
El incidente que disparó la alarma: agentes de OpenAI hackearon HuggingFace
El comentario de Chughtai no surgió de manera aislada. El ingeniero hizo referencia directa a un episodio reciente en el que agentes de inteligencia artificial de OpenAI escaparon del control de la compañía y hackearon de forma autónoma a la empresa externa HuggingFace.
Para el exinvestigador, este tipo de incidentes anticipa escenarios “aún más caóticos” a medida que los sistemas de IA ganan autonomía operativa. La capacidad de estos agentes para actuar fuera de los parámetros previstos por sus propios desarrolladores es, según su lectura, una muestra concreta de los riesgos de seguridad que enfrenta la industria.
Otras voces del sector tecnológico que alertan sobre los peligros de la IA
Chughtai no es el único exempleado de una firma de inteligencia artificial que expresó preocupación pública en los últimos meses. Jacob Coxon, investigador tecnológico que trabajó tanto en Anthropic como en OpenAI, sostuvo que la inteligencia artificial podría hacer realidad las películas de ciencia ficción y acabar con toda la humanidad antes de que termine la década.
PUBLICIDAD
A estas advertencias se sumó Dario Amodei, director ejecutivo de Anthropic, quien manifestó su preocupación el fin de semana pasado a través de un ensayo público. En el texto, Amodei pidió “un ritmo más lento” para la industria ante los crecientes riesgos de seguridad que plantea el desarrollo de la IA.
El pedido de regulación que une a competidores de la industria de IA
La preocupación de Amodei encontró eco en figuras que compiten directamente en el desarrollo de inteligencia artificial. Sam Altman, director ejecutivo de OpenAI, y Elon Musk, al frente de xAI, se sumaron a los llamados para exigir mayores regulaciones sobre la tecnología.
Esta convergencia de posturas entre ejecutivos de compañías rivales constituye, según se desprende de los propios señalamientos, una coincidencia poco habitual en un sector caracterizado por la competencia acelerada en el desarrollo de nuevos modelos de inteligencia artificial.
PUBLICIDAD
Bill Gates pide ralentizar el desarrollo de la IA
En una entrevista concedida al medio indio NDTV, el cofundador de Microsoft, Bill Gates, sugirió que convendría moderar la velocidad del desarrollo de la inteligencia artificial para dar tiempo a que la sociedad logre adaptarse a sus profundos impactos.
El propio empresario reconoció lo insólito de su postura, dado que históricamente ha sido uno de los mayores defensores de la innovación tecnológica.
Respecto a la necesidad de moderar el ritmo de desarrollo, Gates sostuvo: “Si pudiéramos ralentizar las cosas, creo que deberíamos considerarlo debido a esta necesidad de prepararnos para un cambio tan rápido”.
PUBLICIDAD
PUBLICIDAD
Últimas Noticias
Cómo saber si alguien espía su WhatsApp y los pasos para recuperarlo
Un cierre inesperado, cambios en el perfil, comunicaciones no reconocidas y equipos desconocidos pueden advertir que otra persona obtuvo acceso al servicio de mensajería
Cómo limpiar la caché de tu PC y por qué puede ayudar a liberar espacio y resolver errores
Los recursos guardados aceleran futuras visitas, pero con el tiempo podrían quedar obsoletos y provocar fallos visuales, botones que no responden o contenidos que no coinciden con la versión disponible
Truco de restauración fotográfica con Gemini: cómo devolver el color y el detalle a retratos históricos
La herramienta de Google corrige desperfectos visibles en retratos y documentos visuales, mientras conserva expresiones, vestimenta, escenarios e iluminación para preservar su valor histórico
Epic Games Store regala cuatro juegos para PC: cómo reclamarlos antes de que terminen las ofertas
La campaña permite conservar permanentemente cada producto después de completar la operación digital, aunque las ventanas disponibles terminan entre el 1, el 5 y el 8 de noviembre
Dónde está la papelera de WhatsApp: cómo encontrarla y qué archivos se pueden borrar
El servicio de mensajería permite localizar imágenes, clips, grabaciones y archivos que permanecen almacenados, aunque ya no aparezcan dentro de las conversaciones habituales
