Un exinvestigador de Google DeepMind advirtió que la inteligencia artificial podría representar una amenaza existencial para la humanidad, en momentos en que crecen los llamados a regular con mayor rigor esta tecnología dentro de la propia industria.
Bilal Chughtai, quien trabajó en seguridad de la inteligencia artificial general dentro de la compañía, renunció a su puesto en julio pasado. Semanas después, publicó en su cuenta de X una reflexión que reavivó el debate sobre los riesgos de los sistemas avanzados de IA.
PUBLICIDAD
La advertencia de Bilal Chughtai sobre el riesgo existencial de la inteligencia artificial
“Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace”, escribió el exinvestigador en su publicación.
Chughtai fundamentó su postura en un problema técnico que, según explicó, sigue sin resolverse: la alineación de la IA. Este concepto describe el desafío de garantizar que los sistemas de inteligencia artificial actúen conforme a los valores e intenciones humanas.
El exempleado de DeepMind subrayó que los investigadores aún tienen una comprensión “rudimentaria” de cómo entrenar sistemas avanzados para que persigan objetivos humanos de manera fiable. Esta limitación técnica es, para Chughtai, el núcleo del riesgo que representa el desarrollo acelerado de la inteligencia artificial.
PUBLICIDAD
El incidente que disparó la alarma: agentes de OpenAI hackearon HuggingFace
El comentario de Chughtai no surgió de manera aislada. El ingeniero hizo referencia directa a un episodio reciente en el que agentes de inteligencia artificial de OpenAI escaparon del control de la compañía y hackearon de forma autónoma a la empresa externa HuggingFace.
Para el exinvestigador, este tipo de incidentes anticipa escenarios “aún más caóticos” a medida que los sistemas de IA ganan autonomía operativa. La capacidad de estos agentes para actuar fuera de los parámetros previstos por sus propios desarrolladores es, según su lectura, una muestra concreta de los riesgos de seguridad que enfrenta la industria.
Otras voces del sector tecnológico que alertan sobre los peligros de la IA
Chughtai no es el único exempleado de una firma de inteligencia artificial que expresó preocupación pública en los últimos meses. Jacob Coxon, investigador tecnológico que trabajó tanto en Anthropic como en OpenAI, sostuvo que la inteligencia artificial podría hacer realidad las películas de ciencia ficción y acabar con toda la humanidad antes de que termine la década.
PUBLICIDAD
A estas advertencias se sumó Dario Amodei, director ejecutivo de Anthropic, quien manifestó su preocupación el fin de semana pasado a través de un ensayo público. En el texto, Amodei pidió “un ritmo más lento” para la industria ante los crecientes riesgos de seguridad que plantea el desarrollo de la IA.
El pedido de regulación que une a competidores de la industria de IA
La preocupación de Amodei encontró eco en figuras que compiten directamente en el desarrollo de inteligencia artificial. Sam Altman, director ejecutivo de OpenAI, y Elon Musk, al frente de xAI, se sumaron a los llamados para exigir mayores regulaciones sobre la tecnología.
Esta convergencia de posturas entre ejecutivos de compañías rivales constituye, según se desprende de los propios señalamientos, una coincidencia poco habitual en un sector caracterizado por la competencia acelerada en el desarrollo de nuevos modelos de inteligencia artificial.
PUBLICIDAD
Bill Gates pide ralentizar el desarrollo de la IA
En una entrevista concedida al medio indio NDTV, el cofundador de Microsoft, Bill Gates, sugirió que convendría moderar la velocidad del desarrollo de la inteligencia artificial para dar tiempo a que la sociedad logre adaptarse a sus profundos impactos.
El propio empresario reconoció lo insólito de su postura, dado que históricamente ha sido uno de los mayores defensores de la innovación tecnológica.
Respecto a la necesidad de moderar el ritmo de desarrollo, Gates sostuvo: “Si pudiéramos ralentizar las cosas, creo que deberíamos considerarlo debido a esta necesidad de prepararnos para un cambio tan rápido”.
PUBLICIDAD
PUBLICIDAD
Últimas Noticias
Tesla presentó el nuevo deportivo Roadster: posee un “sistema de vuelo” y acelera de 0 a 100 en menos de un segundo
Durante la demostración un centro de pruebas de SpaceX en McGregor, Texas, el auto circuló boca abajo por una rampa mediante un sistema de succión, giró en el aire y aterrizó con ayuda de propulsores integrados
Cómo saber si alguien revisa tu WhatsApp sin permiso: la función que ayuda a proteger tu cuenta
WhatsApp permite consultar las sesiones abiertas en computadoras y otros celulares, cerrar accesos desconocidos y reforzar la seguridad de las conversaciones
Cómo evitar moho y malos olores en la lavadora con un método de mantenimiento, según fabricantes
La inspección periódica de conexiones y conductos permite detectar fugas, obstrucciones o deterioros antes de que afecten el drenaje y provoquen daños mayores en el sistema del equipo
Qué son las cuentas administradas por padres en WhatsApp y cómo funcionan
La nueva modalidad permite mantener conversaciones y realizar llamadas con familiares y amigos, mientras una persona adulta controla los contactos, las solicitudes y el acceso a grupos
Cómo tener 15 GB en Google Drive, Gmail y Fotos sin pagar suscripciones
Una limpieza periódica de archivos, mensajes y fotografías permite conservar el plan gratuito, evitar bloqueos en la recepción de correos y mantener disponibles documentos importantes
