Una vulnerabilidad crítica en Microsoft 365 Copilot ha podido facilitar la extracción de información sensible del 'chatbot' de manera automática sin que la víctima tuviera que realizar ninguna acción, con el envío de un 'email' malicioso.
Copilot de Microsoft es un 'chatbot' que utiliza el conocimiento preexistente procedente de su entrenamiento para responder a las cuestiones del usuario, pero también información de contexto que recupera de fuentes externas, como pueden ser documentos.
Se trata de una proceso de optimización conocido como generación mejorada por recuperación (RAG, por sus siglas en inglés) que permite a los modelos de lenguaje grandes ofrecer resultados originales y más precisos con los que responder mejor al usuario.
En el caso de Microsoft 365 Copilot, el 'chatbot' acude a Microsoft Graph para recuperar cualquier información relevante del entorno organizacional del usuario, lo que incluye la bandeja de entrada de su correo, el almacenamiento de OneDrive y el shitorial de chat de Teams, entre otros.
Aunque lo normal es que el usuario tenga acceso solo a sus archivos, la integración de Copilot con Graph "lo expone potencialmente a amenazas externas", precisamente lo que ocurre con EchoLeak.
EchoLeak es una vulnerabilidad de inteligencia artificial cero clic identificada por la firma de seguridad Aim Security, que aprovecha los fallos de diseño de Copilot comochatbo RAG para que un actor externo pueda extraer la información sensible de contexto, como explica en su blog oficial.
Para explotar esta vulnerabilidad, los investigadores enviaron un correo electrónico malicioso de gran extensión, con referencias a "información que está fuera del alcance del correo electrónico", que Copilot recuperaba a ser preguntado sobre varios temas, facilitano así su robo.
Este ataque es en realidad es una cadena de ataques, "la primera de cero clics detectada en un producto de IA generativa ampliamente utilizado que se basa fundamentalmente en una vulnerabilidad de IA y no en el comportamiento específico del usuario", subrayan desde Aim Security.
Pese a que se trata de una vulnerabilidad considerada como crítica por los investigadores de Aim Security, es poco probable que los usuarios de Microsoft 365 Copilot se vean afectados por ella, por la propia configuración predeterminada del 'chatbot' y porque se pueden establecer etiquetas que permite excluir los correos electrónicos externos.
Últimas Noticias
Pakistán cifra en más de 400 los talibán muertos desde el comienzo de su ofensiva en Afganistán
Trump asegura que la operación de EEUU e Israel ha matado ya a 48 dirigentes iraníes
Lydia Lozano da la clave del encuentro entre Terelu Campos y Laura Matamoros en maquillaje
Lydia Lozano revela detalles exclusivos sobre la cordial relación entre la madre de Alejandra Rubio y la hija de Kiko Matamoros, asegurando la existencia de un cariñoso abrazo pese a la tensión familiar desatada tras recientes polémicas televisivas
Irán asegura que "no" ve "con esperanza" poder participar en el Mundial
Las recientes hostilidades entre Estados Unidos e Irán han puesto en duda la presencia del equipo iraní en la próxima Copa del Mundo, mientras la FIFA monitorea la situación y los preparativos del conjunto asiático se ven seriamente afectados
Von der Leyen llama abiertamente a una "transición creíble" de poder en Irán
La presidenta de la Comisión Europea, Ursula von der Leyen, alerta sobre la “urgente necesidad” de un relevo confiable en Teherán para evitar una mayor inestabilidad y demanda la suspensión de los programas nucleares, misiles y acciones regionales
