OpenAI entrenará sus IA con chats de expertos en ciberseguridad aunque estos se nieguen

Los investigadores temen que fallas descubiertas y aún sin corregir terminen como datos de entrenamiento

OpenAI modificará desde el 29 de noviembre la política de datos de Daybreak Blue, su programa de acceso para especialistas en ciberseguridad. (Europa Press)
OpenAI modificará desde el 29 de noviembre la política de datos de Daybreak Blue, su programa de acceso para especialistas en ciberseguridad. (Europa Press)
Guardar

OpenAI usará desde el 29 de noviembre el contenido de las sesiones de Daybreak Blue en cuentas personales para entrenar sus modelos, incluso si el usuario desactivó la opción “mejorar el modelo para todos”. Daybreak Blue es el nivel de acceso que la empresa ofrece a especialistas en ciberseguridad.

Según un correo que OpenAI envió a los miembros de su programa de acceso de confianza, y que usuarios reprodujeron en foros, el cambio también busca “fortalecer las salvaguardas contra el uso indebido” de la IA en ciberseguridad. Hasta ahora, esas sesiones quedaban fuera del entrenamiento.

PUBLICIDAD

El mensaje precisa que la medida no afecta a clientes empresariales ni a otros usos de ChatGPT. Tampoco cambia el trato de datos en los modos de procesamiento seguro privado y de cero retención de datos.

Daybreak Blue se presentó el 10 de agosto de 2026 como acceso al modelo GPT-5.6 Sol con salvaguardas para el trabajo defensivo autorizado. (Reuters)
Daybreak Blue se presentó el 10 de agosto de 2026 como acceso al modelo GPT-5.6 Sol con salvaguardas para el trabajo defensivo autorizado. (Reuters)

El medio especializado The Decoder informó que la reacción fue inmediata y que OpenAI envió un segundo correo en el que prometió una opción de exclusión específica. Los textos publicados hasta ahora no detallan cómo funcionará ni desde cuándo.

Por qué el cambio contradice la promesa previa

Para obtener acceso individual a Daybreak, el usuario debe activar la Seguridad Avanzada de Cuenta, que apaga el entrenamiento con sus datos. El propio correo lo reconoce. Por eso, hasta ahora, quien usaba Daybreak Blue con una cuenta personal tenía garantizado que su contenido no alimentaba los modelos.

PUBLICIDAD

Daybreak Blue se presentó el 10 de agosto de 2026. OpenAI lo describió como acceso a su modelo general GPT-5.6 Sol con salvaguardas adaptadas al trabajo defensivo autorizado, y lo recomendó para detectar vulnerabilidades, revisar código, analizar software malicioso y responder a incidentes.

El correo enviado por OpenAI a los miembros del programa confirma que las sesiones individuales pasarán a alimentar el entrenamiento de los modelos. (EFE)
El correo enviado por OpenAI a los miembros del programa confirma que las sesiones individuales pasarán a alimentar el entrenamiento de los modelos. (EFE)

Las sesiones de ese tipo pueden incluir fallas aún no corregidas en productos ajenos, código de clientes o pruebas de ataque. Un usuario citado por el sitio CellCog escribió que, con el cambio, los errores sin reportar y las técnicas del investigador pasan a ser datos de entrenamiento.

OpenAI no explicó, en los textos consultados, si filtrará los hallazgos sin corregir, cuánto tiempo conservará el contenido ni si lo revisarán personas. Tampoco aclaró si el cambio alcanza a Daybreak Red, el nivel con modelos especializados, que el correo no menciona.

Sin opción de exclusión y con acceso por API recortado

La página de ayuda de OpenAI sobre controles de datos se actualizó el 30 de octubre con una sección sobre el acceso de confianza en cuentas personales, según el medio Neural Brew y el sitio CellCog. Ambos señalan que la página no menciona una fecha de inicio ni una forma de excluirse de Daybreak.

Investigadores de ciberseguridad advirtieron que el cambio expone fallas sin corregir y técnicas de análisis compartidas durante las sesiones. (EFE)
Investigadores de ciberseguridad advirtieron que el cambio expone fallas sin corregir y técnicas de análisis compartidas durante las sesiones. (EFE)

Esa página aclara que el ajuste de privacidad sigue vigente para la actividad fuera de las sesiones de acceso de confianza. En el foro de la comunidad de OpenAI, un usuario preguntó cómo saber cuándo está dentro de una sesión de Daybreak al usar Codex, la herramienta de programación de la empresa.

El correo anuncia además que, desde el 20 de noviembre, los individuos dejarán de tener acceso a Daybreak Blue por API. Las claves no se revocan, pero las respuestas volverán a incluir las negativas habituales ante pedidos de ciberseguridad.

Los usuarios individuales podrán seguir con Daybreak Blue a través de Codex con inicio de sesión de ChatGPT. Quienes quieran mantener el acceso por API deberán pasar a una cuenta empresarial, que el cambio de datos no alcanza.

OpenAI prometió una opción de exclusión específica tras la reacción de los usuarios, aunque no detalló cómo funcionará. (Europa Press)
OpenAI prometió una opción de exclusión específica tras la reacción de los usuarios, aunque no detalló cómo funcionará. (Europa Press)

El antecedente que alimenta la desconfianza

The Decoder vincula la preocupación con el caso de los matemáticos Tristan Buckmaster y Levent Alpöge, quienes subieron borradores sobre las ecuaciones de Navier-Stokes a Codex. Poco después, OpenAI presentó su propia demostración y negó haber usado esos datos para entrenar.

Según ese medio, la sospecha bastó para mostrar a los investigadores lo que puede salir mal. En las redes, algunos especialistas dijeron que dejarán el programa, según el sitio de seguimiento ctxsec, que presenta esas reacciones como opiniones.

PUBLICIDAD

PUBLICIDAD