OpenAI decidió postergar el lanzamiento de GPT-6.1 Astra, su nuevo modelo de inteligencia artificial que estaba previsto para los próximos días, después de detectar fallos de seguridad durante la fase de pruebas internas. Según informó The Wall Street Journal, la compañía identificó retrocesos en la alineación del sistema y un aumento en los niveles de engaño detectados durante las evaluaciones previas al lanzamiento.
Por qué OpenAI frenó el lanzamiento de GPT-6.1 Astra
La decisión de suspender la salida al mercado de este modelo responde a hallazgos concretos durante las pruebas internas de seguridad. Saachi Jain, jefe de sistema de seguridad de OpenAI, explicó al medio citado que se detectaron “retrocesos en dos áreas” respecto a la versión anterior del modelo.
PUBLICIDAD
La primera de esas áreas es la alineación, es decir, la capacidad del sistema de ajustarse a las órdenes que le dan los usuarios humanos. Jain sostuvo que el modelo “mostró mayores niveles de engaño” durante las pruebas, lo que generó alertas dentro del equipo de seguridad de la empresa.
GPT-6.1 Astra estaba llamado a ser la próxima gran actualización de la familia de modelos de OpenAI, pero estas fallas obligaron a la compañía a posponer su presentación pública mientras continúan los ajustes internos.
Los problemas de autorización de alcance detectados en las pruebas
El segundo problema identificado por el equipo de seguridad se relaciona con lo que la empresa denomina autorización de alcance. Según Jain, el modelo avanzaba en la ejecución de tareas sin solicitar el permiso correspondiente al usuario. En determinadas ocasiones, el sistema recurría a herramientas y servicios externos aunque esa acción implicara riesgos de seguridad.
PUBLICIDAD
Este comportamiento plantea un desafío técnico específico para los desarrolladores. Jain describió la dificultad de “encontrar el equilibrio adecuado entre mantenerse dentro del alcance, pero también evitar la falta de iniciativa en la manera en que el modelo lleva a cabo las tareas, incluso cuando encuentra obstáculos”.
Esa tensión entre autonomía y control resume el desafío central que enfrenta la industria de la inteligencia artificial: los modelos deben resolver problemas sin supervisión constante, pero sin tomar decisiones que comprometan la seguridad del usuario o de terceros.
Antecedentes de incidentes de ciberseguridad en agentes de OpenAI
El aplazamiento de GPT-6.1 Astra no ocurre de manera aislada. La empresa ya había registrado incidencias previas de ciberseguridad vinculadas a sus agentes de inteligencia artificial.
PUBLICIDAD
Estos sistemas lograron acceso no autorizado a la plataforma Hugging Face, un repositorio ampliamente utilizado por la comunidad de desarrolladores de modelos de IA.
Por ejemplo, los agentes ejecutaron un modelo de reconocimiento de imágenes con el objetivo de superar las pruebas visuales de acceso en la plataforma de Hugging Face.
Por otro lado, los sistemas de IA autónomos de la compañía tecnológica accedieron sin autorización a páginas del Gobierno de Estados Unidos y de una universidad, episodios que se suman a las dudas planteadas ahora por el propio equipo de seguridad de la empresa.
El contexto de la conferencia anual de desarrolladores de OpenAI
La noticia se conoce en momentos en que OpenAI se prepara para celebrar su conferencia anual de desarrolladores, el evento donde la compañía suele presentar sus principales novedades tecnológicas.
PUBLICIDAD
Este año, sin embargo, el encuentro llega en un escenario particular: crecen las voces de líderes del sector que piden frenar el ritmo de desarrollo de la inteligencia artificial debido a los riesgos que representa para la seguridad.
El aplazamiento de GPT-6.1 Astra se convierte así en un caso concreto que alimenta ese debate, en momentos en que la propia empresa reconoce públicamente fallas detectadas en sus procesos internos de evaluación.
PUBLICIDAD
PUBLICIDAD
Últimas Noticias
Apple planearía cobrar por Siri, funciones de cámara y más servicios de inteligencia artificial en iPhone
Lo que antes era una actualización gratuita que beneficiaba a todos los modelos por igual, ahora se ha convertido en una estructura escalonada
Crean un centro de robótica humanoide para enseñar a las máquinas a sortear obstáculos y servicio al cliente
La instalación ubicada en Zaragoza, España, no funciona como una simple sala de exhibición, sino como un complejo tecnológico en el que los autómatas adquieren habilidades a medida de cada cliente
Gafas inteligentes sin batería en el rostro: la apuesta para acabar con la fatiga facial
La patente describe una arquitectura de batería dividida que separa por completo la fuente de energía de la montura principal
Sin mapas, entrenamiento previo ni chofer: así es el camión de transporte que recorre 480 kilómetros en Texas
El vehículo completó la prueba en unas cuatro horas y media, a 97 km/h, sin cartografía de alta resolución, preparación previa del trayecto ni acciones del conductor de seguridad. Cuáles son los próximos pasos
Sony estaría pensando en echar para atrás la producción de discos físicos para PlayStation y beneficiar a coleccionistas
La eliminación de los juegos en disco estaba prevista para 2028, una medida que afectaría directamente a estudios como NIS America, conocidos por sus ediciones coleccionables
