El director ejecutivo de Microsoft, Satya Nadella, advirtió que la economía y la democracia estarían en peligro si un único modelo de inteligencia artificial (IA) llegara a dominar el mercado. La charla siguió a su discurso inaugural en Microsoft Ignite, la conferencia anual de la compañía, realizada en el Chase Center de esa ciudad.
Nadella se definió como AGI-pilled, una expresión informal para quien se toma muy en serio la llegada de la inteligencia artificial general, la que igualaría a la humana en cualquier tarea. Lo hizo con una precisión: lo dijo en lo que respecta a los cambios en la estructura de la economía y en la política.
PUBLICIDAD
“Estoy convencido de la IA general en el sentido de que, a nivel de la economía, la pregunta es cuál es la organización de la economía política en torno a ella”, dijo.
Un modelo que “puede ser cualquier cosa”
Nadella respondía a las preguntas de otro periodista sobre los nuevos productos de oficina que lanza Anthropic, la empresa creadora del chatbot Claude y competidora de Microsoft. Nilay Patel, de The Verge, le preguntó después cómo pensaba la IA tras esa respuesta.
El directivo rechazó que se vea la disputa como una pelea entre tecnológicas. “El modelo no tiene límites”, afirmó. “Será una empresa de salud. Puede ser una empresa de servicios financieros. Puede ser lo que quiera ser. Puede apoderarse del gobierno”.
PUBLICIDAD
También calificó de “una de las maneras más estrechas y extrañas” de pensar el tema la de preguntarse quién llegará primero al próximo billón de dólares de valor bursátil.
Nadella planteó dudas sobre el futuro de las empresas. “Si la inteligencia tiene efectos de red, ¿cuál es el futuro de una empresa?”, preguntó. Agregó que, si todo el capital humano se reduce a “capital de tokens” (la unidad con la que los modelos procesan texto), no está claro qué papel quedaría para las firmas y sus empleados.
Sobre las consecuencias políticas, dijo que en una democracia nadie podría ganar unas elecciones si hubiera solo capital y nada de trabajo. “Eso no es una economía”, sostuvo.
PUBLICIDAD
Muchos modelos, no uno solo
La alternativa que defendió coincide con lo que Microsoft ofreció en Ignite. La compañía presentó herramientas para que los clientes empresariales elijan el modelo más económico para cada tarea, ejecuten modelos propios y controlen sus datos.
“Si uno cree que el mundo, la economía, necesita más de una o dos empresas, entonces por definición tiene que haber tantos modelos como empresas”, dijo Nadella. Ese fue un tema al que volvió una y otra vez durante la conversación.
Sobre la conciencia de los modelos
Consultado sobre si modelos como Claude son conscientes, Nadella respondió “No lo creo”. Dijo que sigue la postura de Mustafa Suleyman, director de IA de Microsoft: las empresas no deberían otorgar derechos a los modelos ni tratarlos como si tuvieran un estatus moral, algo que Anthropic hace por principio.
PUBLICIDAD
No fue tajante. “Es un buen debate”, afirmó, y agregó que no es dogmático al respecto. Para él, lo más importante es cómo lograr que la economía difunda esta tecnología de forma amplia. Suleyman le dijo a The Verge que cree que el equipo de Anthropic se “autoengañó” con ese enfoque y que es peligroso.
El debate ocurre mientras gobiernos y organismos internacionales avanzan con normas para limitar los riesgos de los sistemas avanzados. La Unión Europea aprobó la Ley de Inteligencia Artificial, que impone obligaciones según el nivel de riesgo, y Estados Unidos impulsa marcos voluntarios y regulaciones sectoriales.
Estas iniciativas buscan que la expansión tecnológica mantenga competencia, transparencia y supervisión humana en decisiones que afectan empleos, servicios públicos y derechos ciudadanos de todos
PUBLICIDAD
PUBLICIDAD
PUBLICIDAD