Crear inteligencias artificiales que superen al ser humano es inmoral, señaló el CEO de IA de Microsoft

Mustafa Suleyman, uno de los nombres más reconocidos en el ámbito de la inteligencia artificial, ha dejado claro su posicionamiento frente al desarrollo de sistemas que puedan igualar o superar a las capacidades humanas.

Tras su paso por Google y la creación de DeepMind, Suleyman asumió en marzo de 2024 la dirección ejecutiva de la división de IA en Microsoft, desde donde ha emitido advertencias sobre el rumbo actual de la tecnología avanzada.

El ejecutivo reconocido por su papel en el avance de los asistentes de chatbot, ha señalado que “crear inteligencias que superen al ser humano es inmoral y arriesgado”.

Cuáles son los riesgos advertidos sobre a la IA

Uno de los principales temas que Suleyman destaca es la llamada inteligencia artificial general (AGI, por su sigla en inglés), una tecnología que aspira a emular la cognición humana en toda su amplitud.

Mientras expertos como Sam Altman dedican esfuerzos a convertirla en realidad, Suleyman ha advertido sobre riesgos éticos y sociales. “La IA todavía tiene que ser una compañera”, sostuvo recientemente en una entrevista, haciendo hincapié en que la relación emocional y práctica entre humanos y máquinas debe estar bien delimitada.

De acuerdo con el CEO de Microsoft AI que, si la tendencia sigue avanzando sin límites, la sociedad podría llegar a defender derechos de las propias inteligencias artificiales, lo que considera un escenario peligroso y erróneo. “Si llevamos esto demasiado lejos, la gente empezará a defender los derechos de las IA. Eso sería peligrosísimo y totalmente erróneo; necesitamos posicionarnos claramente en contra”.

El peligro de la independencia de las máquinas

La inquietud de Suleyman, compartida por diversos especialistas, radica en la posibilidad de que los humanos otorguen a la inteligencia artificial una autonomía que la haga dejar de ser una mera herramienta.

Si las máquinas llegaran a formular “sus propias motivaciones, deseos y metas”, advirtió, podrían apartarse del control humano. “La tecnología debe estar para servirnos, no para tener su propia voluntad. Debe ayudarnos a ahorrar tiempo, potenciar nuestra creatividad y facilitar nuestra vida, no sustituirnos en nuestros trabajos”.

El CEO de IA de Microsoft emitió un llamado directo a la comunidad de desarrolladores: la tecnología debe “siempre servir a la humanidad” y jamás convertirse en una amenaza. Insistiendo en la necesidad de establecer barreras y normas claras, pidiendo crear un acuerdo internacional que delimite el uso responsable de la inteligencia artificial.

Expertos alertan sobre el futuro de la inteligencia artificial

La preocupación por una falta de regulación se multiplica con las voces de otros referentes mundiales. Geoffrey Hinton, galardonado con el Premio Nobel de Física y conocido como “el padre de la inteligencia artificial”, lanzó advertencias parecidas. Considera que el avance descontrolado de los sistemas inteligentes puede acarrear consecuencias difíciles de revertir, comparando el momento actual con la carrera nuclear del siglo pasado.

Para Hinton, uno de los riesgos más evidentes radica en dejar la gestión y desarrollo de la inteligencia artificial en manos de grandes corporaciones tecnológicas, como OpenAI, Google, Meta o xAI. Según expone, muchas veces las decisiones más importantes se toman a puerta cerrada, relegando la discusión pública y los principios éticos a un plano secundario.

El científico enfatizó la urgencia de involucrar a la comunidad científica en el diseño de regulaciones y buenas prácticas. “Mi mayor temor es que estos seres digitales superinteligentes nos sustituyan. No tendrán necesidad de nosotros. Y, como son digitales, serán inmortales”.

Su mensaje fue claro: el futuro de la IA debe ser orientado por la responsabilidad global y no por intereses empresariales.

La tensión entre el avance imparable de la inteligencia artificial y los riesgos para la humanidad requiere diálogo y acción global. Las advertencias de Mustafa Suleyman y de referentes como Hinton coinciden en un punto clave: el desarrollo de IA debe estar regido por límites éticos, transparencia y acuerdos firmes que garanticen que la tecnología, en todas sus formas, siga estando al servicio de la humanidad y nunca en su contra.