OpenAI despliega el Modo de Bloqueo para proteger a ChatGPT de los ataques de inyección de 'prompts'

OpenAI ha lanzado el nuevo Modo de Bloqueo, que ya está disponible en España, que limita el acceso a la web y a servicios externos para reducir el riesgo de ataques de inyección de 'prompts'.

El Modo de Bloqueo (Lockdown Mode) se caracteriza por ser una nueva opción de seguridad que limita las herramientas y las capacidades de los productos de OpenAI que se pueden conectar con servicios externos o la web.

El objetivo es reducir la exfiltración de datos por ataques de inyección de 'prompts' (cuando se manipulan las instrucciones de texto para intentar engañar a la IA y que ignore sus reglas originales), al limitar las solicitudes de red salientes al bloquear o algunas de las funciones útiles de ChatGPT.

OpenAI, desde su web, indica que este nuevo modo de bloqueo no está dirigido a todos los usuarios, sino más bien a organizaciones o personas que suelen trabajar con datos sensibles y necesitan la protección necesaria para limitar el riesgo de que estos datos sean exfiltrados, es decir, acaben traspasados a un entorno controlado por el atacante.

Lo que hace este modo es aplicar una serie de protecciones a nivel de modelo, de producto y de sistema. Esto incluye desde aislamiento de procesos a protecciones contra la exfiltración de datos basada en URL, o supervisión y aplicación de políticas al igual que controles empresariales, como el acceso basado en roles y los registros de auditoría.

Los creadores de ChatGPT avisan de que el nuevo modo de protección no evita que las inyecciones de 'prompts' aparezcan en el contenido que procesa ChatGPT. Entre esos casos se encuentra la posibilidad de que aparezcan en el contenido en caché de una web o en un archivo que ha subido el usuario.

Es decir, que no es un escudo que elimine todos los ataques, pero lo que sí hace es deshabilitar aquellas acciones o funciones que podrían ser usadas para engañar a la IA con un ataque de inyección de 'prompts'.

OpenAI ha indicado que al estar activo el Modo de Bloqueo se deshabilita la navegación web en tiempo real, el soporte para imágenes, la función de investigación profunda, el modo de agente, Canvas y la descarga de archivos. Matiza que no interfiere con la memoria, la subida de archivos, la capacidad de compartir una conversación o que las mismas sean usadas para mejorar los modelos.

Esta nueva actualización de ChatGPT llega a las cuentas personales de todos los usuarios, entre las que se incluyen la versión gratuita, Go, Plus y Pro, al igual que las cuentas de ChatGPT Business.

Forma parte de un despliegue global que se está realizando estos días y al que se puede acceder desde los ajustes de la 'app' para encontrar el Modo de Bloqueo en la sección de seguridad.