¿Tu entrenamiento de IA está alimentando a la competencia?

De HBR.org

Durante años, los abogados corporativos se han obsesionado con una pregunta en lo que respecta a la IA: ¿Nuestros datos terminan en el set de capacitación de otra persona? Sin embargo, las empresas están perdiendo algo más valioso que los datos: su lógica, la forma específica y obtenida con esfuerzo en que resuelven los problemas. Llámalo "Sherlockeo de IA" (AI Sherlocking).

A principios de la década de 2000, Apple creó una herramienta de búsqueda llamada Sherlock que copió, función por función, una popular aplicación complementaria llamada Watson, y llevó a la empresa más pequeña a la quiebra casi de la noche a la mañana. Desde entonces, "ser sherlockeado" ha significado ver cómo una plataforma más grande absorbe tus mejores ideas y las usa en tu contra.

El "Sherlockeo" tradicional se basaba en copiar una característica visible: un botón, una pantalla, una función específica. El "Sherlockeo de IA" se trata de algo que no se ve: el razonamiento que generó una buena respuesta.

Un ejemplo del tipo de lógica que persigue el "Sherlockeo de IA" es la retroalimentación de tu equipo. Cada vez que alguien de tu equipo le da retroalimentación a una herramienta de IA --un pulgar hacia arriba o hacia abajo, "eso no está del todo bien, inténtalo de nuevo" o una corrección manual a un borrador--, está haciendo más que obtener una mejor respuesta. Está proporcionando exactamente el tipo de señal que las empresas de IA usan para reentrenar y mejorar sus modelos. En términos sencillos: tus correcciones le enseñan al modelo.

Esta es la parte que debería preocupar a quien sea responsable de los contratos con tus proveedores de IA. El Acuerdo de Servicios estándar de OpenAI protege tus instrucciones (prompts) y las respuestas sin procesar del modelo para que no se utilicen en el entrenamiento, pero trata la retroalimentación como una categoría aparte. El acuerdo establece que si un cliente proporciona reacciones y comentarios, OpenAI tiene derecho a utilizarlos y a basarse en ellos sin restricciones y sin pagar por ello. Los Términos de Servicio Comerciales de Anthropic para Claude contienen una cláusula casi idéntica --una señal de que esta excepción para la retroalimentación es una estructura contractual estándar de la industria y no una peculiaridad de un solo proveedor. Existe cierta ambigüedad en cuanto al alcance de la interpretación del término "retroalimentación" ("feedback", en ingles) --por lo general, se define como comentarios y reacciones sobre el servicio en sí--, pero la propia documentación de OpenAI es más explícita sobre lo que significa en la práctica: Incluso cuando un cliente ha optado por no participar en el entrenamiento en general, dar un "me gusta" o un "no me gusta" a una respuesta significa que toda la conversación asociada a esa retroalimentación puede utilizarse para entrenar modelos futuros. Y no se trata solo de un proceso automatizado: El proceso de aprendizaje por refuerzo detrás de los chatbots modernos, descrito por primera vez a gran escala en la investigación InstructGPT de OpenAI de 2022, se basa en que los etiquetadores de datos por contrato lean y clasifiquen los resultados del modelo ante instrucciones reales de los usuarios como una señal central de entrenamiento, y ese mismo enfoque básico se utiliza ahora en toda la industria. Las personas que realizan esa calificación, en efecto, también están aprendiendo de las correcciones propias de tu equipo.

Qué deben hacer los gerentes: Tratar los mecanismos de retroalimentación como un asunto contractual, no solo como una característica del producto. Al negociar o renovar los acuerdos con proveedores de IA, no te limites a exigir "que no se entrene con nuestros datos". Pregunta específicamente sobre la retroalimentación, las calificaciones, las correcciones y los registros de interacción, e insiste en incluir cláusulas que cierren esta brecha de manera explícita. En marzo de 2026, Anthropic agregó la capacidad de administrar la configuración de retroalimentación de los usuarios en los planes Team o Enterprise, así que asegúrate de desactivar la función "Calificar chats". Ten en cuenta que se trata de una función nueva y no de una garantía probada y comprobada. También vale la pena informar a tus equipos: en el momento en que corrijan el trabajo de una IA, podrían estar enseñando a un sistema que también utilizan tus competidores.

Además, también puede buscar obtener los datos de alta calidad generados por humanos, el tipo de datos que las empresas de IA necesitan para seguir mejorando sus modelos. >Los investigadores de Epoch AI, una organización sin fines de lucro que realiza un seguimiento de los recursos de entrenamiento de IA, estiman que el stock de datos de texto de alta calidad disponibles públicamente se agotará sustancialmente en algún momento entre 2026 y 2032, dependiendo de cuán eficientemente se reutilicen. Por ello, los proveedores han recurrido cada vez más a una solución alternativa: utilizar los mejores resultados de sus propios modelos como material de entrenamiento para la siguiente versión. Esto ya es una práctica estándar en la industria, no un caso excepcional. El modelo Phi-4 de Microsoft, lanzado en diciembre de 2024, se entrenó explícitamente con aproximadamente 400 mil millones de tokens generados a partir de 50 conjuntos de datos sintéticos diferentes, y el informe técnico de Microsoft sostiene que este enfoque fue fundamental para el desempeño del modelo.

Si tu equipo utiliza una IA empresarial con un contrato bien definido, tus resultados específicos suelen estar aislados de este proceso. Sin embargo, hay dos formas en que el riesgo aún afecta a tu empresa. La primera es cualquier uso que quede fuera de ese contrato: cuentas de consumidor o de nivel gratuito, uso oculto de IA o acuerdos más antiguos sin protección explícita de los resultados. Todo lo que se genere allí es material válido para entrenar la próxima versión. La segunda es más sutil: incluso cuando no se tocan tus resultados específicos, los modelos entrenados con los resultados agrupados de todos los demás que resuelven problemas similares siguen mejorando en tu tipo de problema, y esa capacidad mejorada se vende luego a cualquiera que compre acceso. Como nota al margen, los investigadores han advertido que los modelos entrenados en exceso con este tipo de contenido reciclado generado por IA pueden perder precisión gradualmente con el tiempo, algo que denominan "colapso del modelo". Eso representa un verdadero dolor de cabeza técnico para los proveedores de IA, pero no cambia tu exposición.

Qué deben hacer los gerentes: Para tus casos de uso de IA de mayor valor --los vinculados a una ventaja competitiva genuina--, impulsa opciones de implementación que mantengan todo dentro de la empresa: modelos personalizados que operen en un entorno de nube privada o una configuración local en la que nada de lo generado se envíe jamás al proveedor para ningún propósito. Reserva la versión pública y de uso general de estas herramientas para trabajos de menor importancia, en los que perder la "fórmula secreta" no sea una preocupación real.

Las plataformas de IA también mejoran al aprender de sus usuarios más sofisticados. Si tu empresa es la que más aprovecha una herramienta de IA --utilizándola para resolver un problema genuinamente difícil y de alto valor, como optimizar una cadena de suministro compleja--, también eres quien le enseña a esa herramienta cómo resolver problemas como el tuyo, por lo general. La plataforma mejora. Luego vende esa capacidad mejorada al resto del mercado, incluidos tus competidores directos.

Esto crea una dinámica incómoda: cuanto más innovador sea tu uso de una herramienta de IA, más podrías estar contribuyendo a las capacidades futuras de tus propios competidores. Esto va en dirección contraria a cómo ha funcionado tradicionalmente la ventaja competitiva. Normalmente, ser el usuario más inteligente de una herramienta es lo que te mantiene a la cabeza, no lo que erosiona tu ventaja.

Qué deben hacer los gerentes: Para tu trabajo más sensible desde el punto de vista estratégico, evita enviar todo el problema a una herramienta de IA de uso general de una sola vez. Divide la tarea y envía solo las partes que no revelen tu enfoque general, mientras mantienes la parte que une todo --tu método real-- dentro de la empresa. Una opción relacionada es utilizar un modelo público de IA de gran tamaño para generar ideas generales y aproximadas, y luego realizar el ajuste detallado real en un modelo más pequeño que tu empresa posea y controle por completo, de modo que el valioso paso final nunca salga de la empresa.