Las empresas adoptan IA más rápido de lo que pueden controlarla: ¿cómo evitar errores, filtraciones y sanciones?

La incorporación de inteligencia artificial a las tareas cotidianas de una empresa puede acelerar análisis, automatizar procesos y facilitar el acceso a información.

El problema aparece cuando sus resultados se aceptan como ciertos sin revisar las fuentes, los datos utilizados ni los límites de la herramienta. Una respuesta convincente puede contener información falsa, sesgos o recomendaciones que no se ajustan al contexto de un negocio. ¿Cómo evitar que la velocidad de adopción se convierta en un riesgo financiero, legal o reputacional?

La gobernanza suele llegar después de las herramientas

La expansión de la inteligencia artificial en las empresas avanza a un ritmo mayor que la creación de normas internas para usarla. Muchas organizaciones habilitan plataformas para sus equipos antes de definir qué datos pueden compartirse, qué decisiones requieren revisión humana y quién debe responder ante un error.

El informe Responsible AI Pulse, publicado por EY en junio de 2025, indicó que el 72% de los altos ejecutivos consultados ya había integrado y escalado IA en la mayoría o totalidad de sus iniciativas. Aun así, solo cerca de un tercio disponía de controles para todos los componentes de un modelo de uso responsable.

La distancia entre adopción y control también apareció en un estudio de Deloitte de enero de 2025. El 69% de las empresas encuestadas consideró que una estrategia de gobernanza completa requeriría más de un año. Esa demora deja un período en el que la tecnología puede ganar espacio dentro de áreas sensibles sin reglas homogéneas.

Los errores pueden afectar inversiones, contratos y decisiones sobre personas

Las respuestas imprecisas de un sistema de IA no quedan limitadas a una consulta aislada. Si se usan para definir inversiones, proyectar ventas, evaluar proveedores o interpretar obligaciones regulatorias, pueden desencadenar pérdidas y conflictos con clientes o autoridades.

El reporte The State of AI in 2025, de McKinsey, encontró que el 30% de las organizaciones que utilizaban IA había informado al menos una consecuencia negativa vinculada con inexactitudes. Los efectos pueden incluir decisiones de negocio erradas, costos adicionales, incumplimientos normativos y deterioro de la confianza.

En este escenario, la revisión humana resulta necesaria en los procesos de alto impacto. La IA puede ayudar a ordenar información, detectar patrones y generar alternativas, aunque no debería reemplazar el criterio de quienes conocen las variables financieras, legales y operativas de cada compañía.

La IA agéntica amplía el alcance de los controles necesarios

El desafío crece con el uso de sistemas capaces de ejecutar tareas. A diferencia de una herramienta que solo redacta o responde consultas, la IA agéntica puede acceder a aplicaciones, procesar datos, activar flujos de trabajo o realizar acciones dentro de una organización.

Alba San Martín, Senior Director, Latam Partner Org. de Cisco, advirtió que el riesgo ya no reside únicamente en una respuesta incorrecta, sino también en las acciones que un agente puede realizar a partir de esa información. Por eso, planteó que cada empresa debe establecer permisos, límites de autonomía y mecanismos de supervisión según el impacto de cada proceso.

EY señaló que el 76% de las compañías consultadas ya utilizaba IA agéntica o planeaba incorporarla en los siguientes 12 meses. Sin embargo, solo el 56% afirmó conocer sus riesgos. Finanzas, recursos humanos, ventas y atención al cliente figuran entre las áreas con mayor exposición, porque trabajan con datos sensibles o toman decisiones que afectan a personas y recursos.

El uso no autorizado de IA puede exponer información confidencial

Otro foco de preocupación es el llamado shadow AI, que describe el empleo de aplicaciones de IA no aprobadas por la empresa. Un colaborador puede recurrir a una plataforma externa para resumir documentos, preparar una propuesta o analizar una base de datos sin conocer las condiciones de privacidad ni el destino de la información cargada.

El Cost of a Data Breach Report 2025, de IBM, informó que el 63% de las organizaciones que sufrió brechas de datos no contaba con políticas de gobernanza de IA o aún las desarrollaba. Dentro de la muestra, las empresas con altos niveles de shadow AI tuvieron costos promedio de brechas USD 670.000 superiores a los de aquellas con poco o ningún uso no controlado.

La respuesta pasa por clasificar los datos, administrar identidades y accesos, evaluar proveedores y ofrecer herramientas corporativas seguras. También exige capacitación: los equipos deben saber qué información no pueden ingresar en aplicaciones externas y cuándo corresponde validar una respuesta antes de usarla.

Un plan de 90 días puede ordenar el uso de la tecnología

San Martín propuso comenzar con un diagnóstico durante los primeros 30 días para identificar herramientas, datos compartidos y procesos de mayor riesgo. El siguiente paso consiste en aprobar reglas básicas de uso, definir responsables y habilitar opciones seguras para los equipos.

Durante los últimos 30 días, las empresas pueden capacitar a sus áreas y elegir dos o tres casos de uso para medir productividad, calidad, reducción de errores y retorno. El objetivo es vincular la adopción tecnológica con problemas concretos y resultados verificables.