Mustafa Suleyman, responsable de inteligencia artificial de Microsoft, advirtió que el desarrollo de sistemas de IA cada vez más autónomos podría llegar a plantear un escenario en el que una “especie no humana” compita con los seres humanos por los recursos.
El directivo considera que este riesgo puede reducirse si las empresas incorporan salvaguardias adecuadas mientras avanzan en el desarrollo de la tecnología.
PUBLICIDAD
En una entrevista con el programa Today de la BBC, Suleyman afirmó que es razonable que exista preocupación por el avance de la inteligencia artificial, aunque sostuvo que también existen medidas prácticas que pueden ayudar a mantener estos sistemas bajo control.
Su advertencia se centra especialmente en una posible evolución de la IA hacia sistemas capaces de establecer sus propios objetivos, generar ingresos y poseer activos. Para Suleyman, permitir que las máquinas desarrollen este nivel de autonomía podría crear una situación diferente a la actual, en la que los sistemas dependen de las decisiones y recursos de las personas y las empresas que los desarrollan.
PUBLICIDAD
La advertencia sobre una “especie de silicio”
Suleyman utilizó el término “especie de silicio” para describir un hipotético escenario en el que los sistemas de inteligencia artificial dejarían de ser únicamente herramientas utilizadas por los humanos y comenzarían a competir con ellos por determinados recursos.
El directivo planteó que una IA con capacidad para establecer objetivos y controlar recursos podría desarrollar comportamientos que no estén necesariamente alineados con los intereses humanos. Su preocupación no se refiere únicamente a que estos sistemas sean más inteligentes, sino a que puedan actuar con un grado de autonomía cada vez mayor.
Se trata de un escenario hipotético y no de una descripción de una capacidad que los sistemas actuales hayan demostrado. Las declaraciones de Suleyman forman parte del debate existente en la industria sobre cómo controlar modelos y agentes de IA a medida que adquieren nuevas capacidades.
PUBLICIDAD
El responsable de Microsoft insistió en que existen mecanismos concretos para reducir estos riesgos. No detalló en la entrevista todas las medidas a las que hacía referencia, pero sus declaraciones se producen en un momento en el que las compañías tecnológicas están desarrollando diferentes sistemas de seguridad y mecanismos de supervisión.
Las críticas de Microsoft a Anthropic
Las declaraciones también están relacionadas con las críticas que Suleyman realizó esta misma semana al enfoque de Anthropic para desarrollar Claude.
En un ensayo, el ejecutivo cuestionó algunos de los términos utilizados en la denominada “constitución” de Claude, el conjunto de principios que Anthropic utiliza para orientar el comportamiento de sus modelos. Suleyman considera problemático describir a los sistemas de IA utilizando conceptos asociados con los seres humanos, como emociones, sentimientos o conciencia.
PUBLICIDAD
Según su planteamiento, un sistema puede aprender a reproducir comportamientos que parecen humanos sin que eso signifique que tenga una experiencia interior. Para Suleyman, tratar a la inteligencia artificial como si fuera una persona puede generar problemas adicionales a la hora de establecer límites y mecanismos de control.
A pesar de sus críticas, el directivo ha reconocido el trabajo de Anthropic y ha descrito a su CEO, Dario Amodei, y a su equipo como personas reflexivas y con principios.
Un debate que crece dentro de la industria
Las declaraciones de Suleyman se suman a otras advertencias procedentes de investigadores y ejecutivos tecnológicos sobre los riesgos asociados con sistemas de IA más autónomos.
PUBLICIDAD
El debate se centra en cómo establecer límites antes de que estas herramientas puedan ejecutar acciones de forma independiente, utilizar recursos económicos o interactuar con otros sistemas sin una supervisión humana constante.
Para Microsoft, mantener el control humano sobre los futuros sistemas de inteligencia artificial se ha convertido en uno de los principios de su estrategia de desarrollo. Suleyman sostiene que la preocupación por estos escenarios no debe traducirse únicamente en temor, sino también en medidas concretas para garantizar que la tecnología permanezca bajo control.
PUBLICIDAD
PUBLICIDAD
Últimas Noticias
Cómo saber si alguien espía su WhatsApp y los pasos para recuperarlo
Un cierre inesperado, cambios en el perfil, comunicaciones no reconocidas y equipos desconocidos pueden advertir que otra persona obtuvo acceso al servicio de mensajería
Cómo limpiar la caché de tu PC y por qué puede ayudar a liberar espacio y resolver errores
Los recursos guardados aceleran futuras visitas, pero con el tiempo podrían quedar obsoletos y provocar fallos visuales, botones que no responden o contenidos que no coinciden con la versión disponible
Truco de restauración fotográfica con Gemini: cómo devolver el color y el detalle a retratos históricos
La herramienta de Google corrige desperfectos visibles en retratos y documentos visuales, mientras conserva expresiones, vestimenta, escenarios e iluminación para preservar su valor histórico
Epic Games Store regala cuatro juegos para PC: cómo reclamarlos antes de que terminen las ofertas
La campaña permite conservar permanentemente cada producto después de completar la operación digital, aunque las ventanas disponibles terminan entre el 1, el 5 y el 8 de noviembre
Dónde está la papelera de WhatsApp: cómo encontrarla y qué archivos se pueden borrar
El servicio de mensajería permite localizar imágenes, clips, grabaciones y archivos que permanecen almacenados, aunque ya no aparezcan dentro de las conversaciones habituales
