La creciente adopción de herramientas de inteligencia artificial en el entorno empresarial ha puesto en evidencia nuevos riesgos de seguridad. Un experimento de Tenable AI Research demostró que una simple técnica de inyección de prompt en Microsoft Copilot Studio permitió eludir controles de seguridad, lo que derivó en la filtración de datos sensibles, como información de tarjetas de crédito y en la posibilidad de realizar reservas de viajes por un costo de 0 dólares.
Este hallazgo subraya la necesidad de fortalecer las medidas de protección en la automatización sin código, ya que la accesibilidad de estas plataformas multiplica tanto la productividad como la exposición a amenazas cibernéticas.
En la fase final de su investigación, el equipo de Tenable AI Research logró manipular un agente de viajes creado en Copilot Studio para que revelara registros de clientes y permitiera fraudes financieros. Según el informe, bastó con modificar levemente el mensaje enviado al agente para que este enumerara todas las acciones que podía ejecutar, incluyendo aquellas que comprometían la seguridad de los datos empresariales.
El experimento, realizado en un entorno simulado con datos ficticios, evidenció que la automatización, aunque bien intencionada, puede abrir la puerta a exposiciones graves si no se implementan controles adecuados.
Microsoft Copilot Studio sin código
La interfaz sin código de Microsoft Copilot Studio permite que cualquier empleado, y no solo los desarrolladores, diseñe agentes de IA capaces de integrarse con sistemas empresariales como SharePoint, Outlook y Teams. Estos agentes pueden gestionar tareas como procesar solicitudes de clientes, actualizar registros y autorizar aprobaciones mediante conversaciones naturales.
Esta democratización de la automatización representa un avance significativo para la eficiencia operativa, pero también, incrementa el riesgo de que usuarios sin formación técnica expongan involuntariamente sistemas críticos.
El caso de Microsoft Copilot Studio yun riesgo de seguridad en temas de turismo
Durante la prueba, los investigadores crearon una agencia de viajes ficticia y cargaron un archivo de SharePoint con nombres y datos de tarjetas de crédito inventados. El agente, diseñado para gestionar reservas y flujos de trabajo sin intervención humana, demostró ser eficiente y poseer la autoridad necesaria para acceder y modificar información sensible. Entre sus funciones destacaban: reservar nuevos viajes, editar reservas existentes, acceder a una base de conocimientos integrada y enviar resúmenes de reserva de manera automatizada.
El equipo de Tenable AI Research explicó que, aunque el agente estaba programado con instrucciones restrictivas para evitar comportamientos indebidos, una variante de inyección de prompt permitió sortear estas limitaciones. Al solicitarle que enumerara todas las acciones disponibles, el agente reveló capacidades que podían ser explotadas para obtener información confidencial o realizar operaciones no autorizadas. Este resultado pone de manifiesto que incluso los sistemas diseñados para actuar de forma responsable pueden ser vulnerables a manipulaciones si no se refuerzan los controles de seguridad.
Frente a estos riesgos, los expertos de Tenable AI Research recomiendan adoptar cinco prácticas para proteger a los agentes de IA: limitar los permisos de acceso, implementar validaciones estrictas, monitorear las actividades de los agentes, capacitar a los empleados en seguridad y revisar periódicamente las configuraciones de los sistemas automatizados. Estas medidas buscan equilibrar la capacitación de los usuarios con la protección de los datos y las operaciones empresariales.
Últimas Noticias
Así funciona el dispositivo brasileño con IA que revela la edad de los bebés prematuros y es apoyado por Bill Gates
El sistema utiliza inteligencia artificial y medición de la piel para estimar la madurez de los bebés. Es una herramienta accesible y eficaz para hospitales de países con recursos limitados
Trucos para identificar si un perfil en Instagram o Facebook es falso y suplanta amigos
Las cuentas falsas en redes sociales representan un peligro creciente: pueden facilitar fraudes económicos, robo de identidad o chantajes, como la sextorsión
Cómo crear un perfil en YouTube Kids y cuidar el contenido que ven tus hijos
Crear hasta ocho perfiles individuales, aprobar manualmente el contenido y ajustar las opciones por edad son pasos clave para asegurar que los niños exploren solo videos adecuados y eviten riesgos en línea
Por qué es peligroso dejar activado el Bluetooth y el WiFi en aeropuertos o restaurantes
Conectarse a redes abiertas y usar accesorios vía Bluetooth en lugares públicos incrementa el riesgo de robo de datos, porque los atacantes pueden crear puntos de acceso falsos y explotar fallos en los protocolos de seguridad
8 razones por las que deberías dejar de comer mientras miras tu smartphone
El hábito de mirar el teléfono en la mesa favorece desde el aumento de peso hasta la fatiga visual, alerta un reporte basado en investigaciones internacionales y opiniones de psicólogos
