Microsoft alerta de un futuro en el que la IA podría competir con los humanos por los recursos

Mustafa Suleyman, responsable de inteligencia artificial de Microsoft, advirtió que el desarrollo de sistemas de IA cada vez más autónomos podría llegar a plantear un escenario en el que una “especie no humana” compita con los seres humanos por los recursos.

El directivo considera que este riesgo puede reducirse si las empresas incorporan salvaguardias adecuadas mientras avanzan en el desarrollo de la tecnología.

En una entrevista con el programa Today de la BBC, Suleyman afirmó que es razonable que exista preocupación por el avance de la inteligencia artificial, aunque sostuvo que también existen medidas prácticas que pueden ayudar a mantener estos sistemas bajo control.

Su advertencia se centra especialmente en una posible evolución de la IA hacia sistemas capaces de establecer sus propios objetivos, generar ingresos y poseer activos. Para Suleyman, permitir que las máquinas desarrollen este nivel de autonomía podría crear una situación diferente a la actual, en la que los sistemas dependen de las decisiones y recursos de las personas y las empresas que los desarrollan.

La advertencia sobre una “especie de silicio”

Suleyman utilizó el término “especie de silicio” para describir un hipotético escenario en el que los sistemas de inteligencia artificial dejarían de ser únicamente herramientas utilizadas por los humanos y comenzarían a competir con ellos por determinados recursos.

El directivo planteó que una IA con capacidad para establecer objetivos y controlar recursos podría desarrollar comportamientos que no estén necesariamente alineados con los intereses humanos. Su preocupación no se refiere únicamente a que estos sistemas sean más inteligentes, sino a que puedan actuar con un grado de autonomía cada vez mayor.

Se trata de un escenario hipotético y no de una descripción de una capacidad que los sistemas actuales hayan demostrado. Las declaraciones de Suleyman forman parte del debate existente en la industria sobre cómo controlar modelos y agentes de IA a medida que adquieren nuevas capacidades.

El responsable de Microsoft insistió en que existen mecanismos concretos para reducir estos riesgos. No detalló en la entrevista todas las medidas a las que hacía referencia, pero sus declaraciones se producen en un momento en el que las compañías tecnológicas están desarrollando diferentes sistemas de seguridad y mecanismos de supervisión.

Las críticas de Microsoft a Anthropic

Las declaraciones también están relacionadas con las críticas que Suleyman realizó esta misma semana al enfoque de Anthropic para desarrollar Claude.

En un ensayo, el ejecutivo cuestionó algunos de los términos utilizados en la denominada “constitución” de Claude, el conjunto de principios que Anthropic utiliza para orientar el comportamiento de sus modelos. Suleyman considera problemático describir a los sistemas de IA utilizando conceptos asociados con los seres humanos, como emociones, sentimientos o conciencia.

Según su planteamiento, un sistema puede aprender a reproducir comportamientos que parecen humanos sin que eso signifique que tenga una experiencia interior. Para Suleyman, tratar a la inteligencia artificial como si fuera una persona puede generar problemas adicionales a la hora de establecer límites y mecanismos de control.

A pesar de sus críticas, el directivo ha reconocido el trabajo de Anthropic y ha descrito a su CEO, Dario Amodei, y a su equipo como personas reflexivas y con principios.

Un debate que crece dentro de la industria

Las declaraciones de Suleyman se suman a otras advertencias procedentes de investigadores y ejecutivos tecnológicos sobre los riesgos asociados con sistemas de IA más autónomos.

El debate se centra en cómo establecer límites antes de que estas herramientas puedan ejecutar acciones de forma independiente, utilizar recursos económicos o interactuar con otros sistemas sin una supervisión humana constante.

Para Microsoft, mantener el control humano sobre los futuros sistemas de inteligencia artificial se ha convertido en uno de los principios de su estrategia de desarrollo. Suleyman sostiene que la preocupación por estos escenarios no debe traducirse únicamente en temor, sino también en medidas concretas para garantizar que la tecnología permanezca bajo control.