Mustafa Suleyman, uno de los nombres más reconocidos en el ámbito de la inteligencia artificial, ha dejado claro su posicionamiento frente al desarrollo de sistemas que puedan igualar o superar a las capacidades humanas.
Tras su paso por Google y la creación de DeepMind, Suleyman asumió en marzo de 2024 la dirección ejecutiva de la división de IA en Microsoft, desde donde ha emitido advertencias sobre el rumbo actual de la tecnología avanzada.
El ejecutivo reconocido por su papel en el avance de los asistentes de chatbot, ha señalado que “crear inteligencias que superen al ser humano es inmoral y arriesgado”.
Cuáles son los riesgos advertidos sobre a la IA
Uno de los principales temas que Suleyman destaca es la llamada inteligencia artificial general (AGI, por su sigla en inglés), una tecnología que aspira a emular la cognición humana en toda su amplitud.
Mientras expertos como Sam Altman dedican esfuerzos a convertirla en realidad, Suleyman ha advertido sobre riesgos éticos y sociales. “La IA todavía tiene que ser una compañera”, sostuvo recientemente en una entrevista, haciendo hincapié en que la relación emocional y práctica entre humanos y máquinas debe estar bien delimitada.
De acuerdo con el CEO de Microsoft AI que, si la tendencia sigue avanzando sin límites, la sociedad podría llegar a defender derechos de las propias inteligencias artificiales, lo que considera un escenario peligroso y erróneo. “Si llevamos esto demasiado lejos, la gente empezará a defender los derechos de las IA. Eso sería peligrosísimo y totalmente erróneo; necesitamos posicionarnos claramente en contra”.
El peligro de la independencia de las máquinas
La inquietud de Suleyman, compartida por diversos especialistas, radica en la posibilidad de que los humanos otorguen a la inteligencia artificial una autonomía que la haga dejar de ser una mera herramienta.
Si las máquinas llegaran a formular “sus propias motivaciones, deseos y metas”, advirtió, podrían apartarse del control humano. “La tecnología debe estar para servirnos, no para tener su propia voluntad. Debe ayudarnos a ahorrar tiempo, potenciar nuestra creatividad y facilitar nuestra vida, no sustituirnos en nuestros trabajos”.
El CEO de IA de Microsoft emitió un llamado directo a la comunidad de desarrolladores: la tecnología debe “siempre servir a la humanidad” y jamás convertirse en una amenaza. Insistiendo en la necesidad de establecer barreras y normas claras, pidiendo crear un acuerdo internacional que delimite el uso responsable de la inteligencia artificial.
Expertos alertan sobre el futuro de la inteligencia artificial
La preocupación por una falta de regulación se multiplica con las voces de otros referentes mundiales. Geoffrey Hinton, galardonado con el Premio Nobel de Física y conocido como “el padre de la inteligencia artificial”, lanzó advertencias parecidas. Considera que el avance descontrolado de los sistemas inteligentes puede acarrear consecuencias difíciles de revertir, comparando el momento actual con la carrera nuclear del siglo pasado.
Para Hinton, uno de los riesgos más evidentes radica en dejar la gestión y desarrollo de la inteligencia artificial en manos de grandes corporaciones tecnológicas, como OpenAI, Google, Meta o xAI. Según expone, muchas veces las decisiones más importantes se toman a puerta cerrada, relegando la discusión pública y los principios éticos a un plano secundario.
El científico enfatizó la urgencia de involucrar a la comunidad científica en el diseño de regulaciones y buenas prácticas. “Mi mayor temor es que estos seres digitales superinteligentes nos sustituyan. No tendrán necesidad de nosotros. Y, como son digitales, serán inmortales”.
Su mensaje fue claro: el futuro de la IA debe ser orientado por la responsabilidad global y no por intereses empresariales.
La tensión entre el avance imparable de la inteligencia artificial y los riesgos para la humanidad requiere diálogo y acción global. Las advertencias de Mustafa Suleyman y de referentes como Hinton coinciden en un punto clave: el desarrollo de IA debe estar regido por límites éticos, transparencia y acuerdos firmes que garanticen que la tecnología, en todas sus formas, siga estando al servicio de la humanidad y nunca en su contra.
Últimas Noticias
Cómo usar el nuevo modo 3D de Google Maps para que nunca te pierdas
Gracias a la representación gráfica avanzada y las instrucciones de voz contextuales, los usuarios pueden distinguir fácilmente estructuras urbanas y tomar decisiones rápidas
Robot humanoide es intervenido por asustar a una mujer de 70 años en la calle
Este incidente viral, en el que la autoridad se vio obligada a intervenir, resalta la necesidad establecer protocolos y campañas educativas sobre estos dispositivos
Fin de los mensajes directos cifrados en Instagram: Meta anunció la fecha de esta medida
Esta decisión abre la puerta a que la plataforma acceda al contenido de los chats, lo cual representa un retroceso en cuanto la privacidad de las redes sociales
Un agente de IA hackeó en dos horas la base de datos central de McKinsey y expuso secretos globales: cómo lo hizo
La startup de ciberseguridad CodeWall demostró que un robot autónomo podía acceder a 46,5 millones de mensajes confidenciales de la consultora más prestigiosa del mundo. Las claves de un caso que expone el riesgo que enfrentan las organizaciones que implementan la inteligencia artificial a velocidad récord
Gobierno de EE. UU. investiga 7 juegos de Steam por posible malware oculto
La reciente operación de ciberdelincuentes explotó títulos funcionales de la plataforma para infectar a cientos de jugadores
