Qué es el pago invisible por usar IA que el CEO de Microsoft advierte para las empresas

Cuando una empresa contrata ChatGPT de OpenAI, Copilot de Microsoft o Gemini de Google, asume que el único costo es la suscripción mensual o anual.

Satya Nadella, CEO de Microsoft, advirtió que esa suposición es incorrecta: las organizaciones pagan dos veces por la inteligencia artificial, y el segundo pago pasa completamente desapercibido.

“Esencialmente se paga la inteligencia dos veces: una con dinero y otra con algo aún más valioso: el conocimiento exclusivo que se debe revelar para que esa inteligencia sea útil. Cuanto mejor se quiere que funcione el modelo, más conocimiento hay que alimentarle”, escribió el directivo en un ensayo publicado en X (antes Twitter).

Cómo es el primer pago por usar IA que hace una empresa

Cuando una empresa decide incorporar inteligencia artificial a sus operaciones ya sea para redactar documentos, analizar datos, organizar archivos o desarrollar una aplicación, el primer paso es adquirir una suscripción o pagar por el uso del servicio.

Puede ser ChatGPT de OpenAI para generar contenido, Copilot de Microsoft integrado en el correo y los archivos corporativos, o Gemini de Google para automatizar procesos.

El monto varía según el plan y la escala de uso, pero la lógica es la misma: la empresa paga una tarifa y recibe acceso a la herramienta. Ese es el primer pago: concreto, facturado y esperado.

Cuál es el pago invisible por usar IA que dice Satya Nadella

El segundo pago no aparece en ninguna factura. Para que el modelo funcione bien dentro de una organización, la empresa debe darle contexto: cómo opera, qué lenguaje usa internamente, qué errores comete y cómo los corrige.

Esa información, acumulada en millones de interacciones, termina en manos del proveedor de inteligencia artificial, ya sea OpenAI, Microsoft, Google, entre otros.

“El vendedor aprende cada vez más sobre ti a medida que usas lo que compraste, mientras que tú aprendes muy poco sobre lo que el vendedor aprende a cambio”, escribió Nadella.

El mecanismo es gradual e imperceptible. Cada vez que un empleado le indica al modelo que cometió un error y le explica la respuesta correcta, le enseña algo sobre cómo funciona su empresa.

Nadella identificó ese canal de fuga con el término “exhaust” (escape de datos) y precisó que no se trata de una brecha de seguridad ni de un hackeo: el conocimiento se filtra a través de los mensajes cotidianos, las herramientas que usan los agentes de inteligencia artificial y, sobre todo, las correcciones que hacen los empleados cuando el modelo falla.

“Cada corrección se destila en conocimiento institucional. Es el tipo de conocimiento que un competidor nunca podría comprar, y el tipo que se filtra casi imperceptiblemente: traza a traza, corrección a corrección”, advirtió el ejecutivo.

Nadella denominó el problema Reverse Information Paradox (paradoja inversa de la información, en español), en referencia a un concepto del economista Kenneth Arrow.

En la versión original de Arrow, el riesgo lo corría el vendedor: no podía demostrar el valor de su información sin revelarla primero. En la era de la inteligencia artificial, ese riesgo pasó al comprador.

“En la era de la IA, el comprador arriesga ceder conocimiento solo por usar lo que compró”, escribió Nadella.

La asimetría crece con el tiempo: el proveedor acumula más y más conocimiento sobre sus clientes, mientras las empresas tienen escasa visibilidad sobre qué aprende ese proveedor con sus datos.

La propuesta de Nadella para que las empresas protejan su conocimiento propio

El CEO de Microsoft propuso que las empresas deben construir un “límite de confianza” alrededor de sus datos, evaluaciones y memoria organizacional. Nada debería cruzar esa frontera, ni siquiera el conocimiento generado por el uso de la inteligencia artificial, sin consentimiento explícito.

Sus recomendaciones concretas son cinco:

• Controlar las propias evaluaciones de los modelos.
• Construir entornos de aprendizaje dentro de los límites del sistema propio.
• Separar la capa de orquestación de cualquier modelo específico para evitar dependencia de un solo proveedor.
• Reducir costos a largo plazo
• Preservar el valor que genera la empresa.

El ensayo generó debate porque Nadella es el CEO de Microsoft, empresa que invirtió miles de millones de dólares en OpenAI y cuyo asistente Copilot está diseñado para integrarse en los correos, archivos y chats corporativos de sus clientes.