CEO de Microsoft advierte que hoy las empresas pagan dos veces por usar inteligencia artificial

El CEO de Microsoft, Satya Nadella, advirtió que las empresas que usan inteligencia artificial pagan por ella dos veces: primero el dinero de la suscripción a cualquier IA como Copilot de Microsoft o Gemini de Google y luego, con algo que puede vale mucho más que es el conocimiento de las compañías para modelar los lenguajes de las BigTech.

“Esencialmente se paga la inteligencia dos veces: una con dinero y otra con algo aún más valioso: el conocimiento exclusivo que se debe revelar para que esa inteligencia sea útil. Cuanto mejor se quiere que funcione el modelo, más conocimiento hay que alimentarle”, escribió el directivo en un ensayo publicado en X.

La advertencia apunta a un costo que la mayoría de las organizaciones no detecta. Cada vez que una empresa usa una herramienta de IA, no solo consume el servicio: también le entrega, sin darse cuenta, parte del conocimiento interno que la distingue de sus competidores.

Qué es el “doble pago”, según el CEO de Microsoft

Cuando una empresa contrata un modelo de inteligencia artificial ya sea para redactar documentos, analizar datos o automatizar procesos, lo primero que hace es pagar una suscripción o un costo por uso. Ese es el primer pago: visible y esperado.

El segundo pago es invisible. Para que el modelo funcione bien, la empresa debe darle contexto: cómo opera, qué lenguaje usa, qué errores comete y cómo los corrige. Esa información, acumulada en millones de interacciones, termina en manos del proveedor de IA.

“El vendedor aprende cada vez más sobre ti a medida que usas lo que compraste, mientras que tú aprendes muy poco sobre lo que el vendedor aprende a cambio”, escribió Nadella.

Cómo se filtra el conocimiento sin que nadie lo note

Nadella identificó el canal por el que escapa ese conocimiento: lo llamó “exhaust” o escape de datos. No se trata de una brecha de seguridad ni de un hackeo.

El conocimiento se filtra a través de los mensajes que los empleados escriben, las herramientas que usan los agentes de IA y, sobre todo, las correcciones que hacen cuando el modelo se equivoca.

“Cada corrección se destila en conocimiento institucional. Es el tipo de conocimiento que un competidor nunca podría comprar, y el tipo que se filtra casi imperceptiblemente: traza a traza, corrección a corrección”, advirtió el ejecutivo.

Dicho de otro modo: cada vez que un empleado le indica al modelo que cometió un error y le explica la respuesta correcta, le está enseñando algo sobre cómo funciona su empresa. Ese aprendizaje, según Nadella, queda del lado del proveedor.

Cómo define Satya Nadella este problema

Nadella denominó el problema Reverse Information Paradox (paradoja inversa de la información, en español), en referencia a un concepto del economista Kenneth Arrow.

En la versión original de Arrow, el riesgo lo corría el vendedor: no podía demostrar el valor de su información sin revelarla. En la era de la IA, el riesgo pasó al comprador.

“En la era de la IA, el comprador arriesga ceder conocimiento solo por usar lo que compró”, escribió Nadella.

La asimetría crece con el tiempo: el proveedor de IA acumula más y más conocimiento sobre sus clientes, mientras las empresas tienen escasa visibilidad sobre qué aprende ese proveedor con sus datos.

Qué propone Nadella para proteger el conocimiento propio

El CEO de Microsoft planteó que las empresas deben construir lo que llamó un “límite de confianza” alrededor de sus datos, evaluaciones y memoria organizacional.

Nada debería cruzar esa frontera, ni siquiera el conocimiento generado por el uso de la IA, sin consentimiento explícito.

Su lista de recomendaciones incluye cinco puntos:

• Controlar las propias evaluaciones de los modelos.
• Construir entornos de aprendizaje dentro de los límites del sistema propio.
• Separar la capa de orquestación de cualquier modelo específico para evitar dependencia de un solo proveedor.
• Reducir costos a largo plazo.
• Preservar el valor que genera la empresa.

“Una compañía debería poder usar un modelo sin ceder el conocimiento que la hace única. Esa es la paradoja inversa de la información que necesitamos confrontar”, concluyó.

El ensayo generó debate porque Nadella es el CEO de Microsoft, empresa que invirtió miles de millones de dólares en OpenAI y cuyo asistente Copilot está diseñado para integrarse en los correos, archivos y chats corporativos de sus clientes.