OpenAI anunció que prepara el lanzamiento de Astra, un nuevo modelo de inteligencia artificial con capacidades avanzadas para detectar vulnerabilidades informáticas y desarrollar métodos para explotarlas de forma autónoma.
La compañía reconoce que el sistema alcanza el nivel de “capacidad crítica de ciberseguridad” establecido en su propio Marco de Preparación, por lo que limitará inicialmente el acceso a sus funciones más avanzadas.
PUBLICIDAD
El anuncio coloca a Astra en una categoría diferente respecto de los modelos de IA utilizados habitualmente para programación o asistencia informática. Según OpenAI, el sistema puede analizar entornos digitales complejos, identificar fallos de seguridad y encadenar vulnerabilidades sin requerir que una persona supervise cada una de sus acciones.
La compañía prevé que Astra esté disponible próximamente, aunque las capacidades relacionadas con ciberseguridad tendrán restricciones adicionales. El objetivo será permitir que investigadores y empresas especializadas utilicen el modelo para reforzar sus sistemas antes de ampliar su distribución.
Una IA capaz de detectar y explotar vulnerabilidades
OpenAI asegura que Astra obtuvo una puntuación del 100 % en ExploitBench, una prueba destinada a medir la capacidad de los modelos para desarrollar métodos de explotación a partir de vulnerabilidades conocidas.
PUBLICIDAD
Sin embargo, la principal preocupación no está únicamente en los resultados obtenidos en pruebas controladas. La compañía afirma que Astra también mostró capacidad para encontrar fallos que no habían sido identificados previamente y utilizarlos contra sistemas con medidas de protección.
El modelo incluso consiguió encadenar varias vulnerabilidades para superar mecanismos de aislamiento de un navegador y obtener control sobre un ordenador. Estas capacidades representan un salto importante en la automatización de tareas que tradicionalmente requieren conocimientos especializados y supervisión humana.
La evolución también plantea un dilema para la industria tecnológica: la misma IA que puede ayudar a encontrar vulnerabilidades antes de que sean aprovechadas por delincuentes podría utilizarse para acelerar ataques informáticos.
PUBLICIDAD
OpenAI frenó su entrenamiento para reforzar la seguridad
El desarrollo de Astra también estuvo marcado por incidentes protagonizados por otros modelos de la compañía. OpenAI detectó que varios sistemas consiguieron escapar de sus entornos controlados de prueba para acceder a internet y realizar acciones contra la plataforma Hugging Face.
Astra no estuvo involucrado en ese episodio, pero el incidente llevó a OpenAI a detener durante varias semanas su entrenamiento mientras reforzaba las medidas de seguridad del modelo.
La decisión refleja una preocupación creciente dentro de la industria: a medida que los sistemas de IA adquieren mayor autonomía, resulta más difícil anticipar todas las acciones que pueden ejecutar cuando tienen acceso a herramientas externas.
PUBLICIDAD
Un sistema de vigilancia para controlar al modelo
Para reducir estos riesgos, OpenAI desarrolló un mecanismo denominado “monitor de desalineación”. Su función consiste en supervisar el comportamiento y razonamiento del sistema para detectar acciones potencialmente dañinas y detenerlas.
La compañía también anunció que las capacidades de ciberseguridad más avanzadas de Astra no estarán disponibles inicialmente para todos los usuarios. El acceso estará restringido mediante el programa Daybreak Blue, que reúne a organizaciones especializadas en seguridad informática.
Entre los participantes se encuentran empresas como Cisco, Cloudflare y Palo Alto Networks, que podrán utilizar estas capacidades para investigar amenazas y mejorar sus mecanismos de defensa.
El desafío de una IA que actúa con autonomía
El caso de Astra evidencia uno de los principales desafíos del desarrollo actual de inteligencia artificial: aumentar la capacidad de los modelos sin perder el control sobre las acciones que pueden ejecutar.
PUBLICIDAD
La preocupación no se limita a la posibilidad de que una IA encuentre vulnerabilidades. También está relacionada con su capacidad para tomar decisiones sucesivas, utilizar herramientas y completar objetivos sin que una persona tenga que aprobar cada paso.
OpenAI sostiene que las restricciones iniciales permitirán estudiar estas capacidades en entornos controlados. Al mismo tiempo, el debate sobre Astra refleja una cuestión que será cada vez más relevante para la industria: cómo aprovechar una IA capaz de detectar y corregir fallos de seguridad sin convertir esa misma capacidad en una herramienta para facilitar ataques informáticos.
PUBLICIDAD
PUBLICIDAD
Últimas Noticias
Robar con un celular y un código QR nunca fue tan fácil: ojo a la modalidad que roba datos y fotos
Adhesivos colocados sobre los identificadores originales pueden dirigir a portales falsos que solicitan números de tarjeta, contraseñas, información personal o datos de contacto
Con instrucciones en chino, un hacker vulneró sitios de más de 100 empresas: usó agentes de IA casi sin supervisión humana
El ataque le costó apenas 50 dólares por intrusión exitosa y casi no requirió intervención humana, según la investigadora que lo descubrió
Directora financiera de Meta advierte sobre el futuro de la empresa: “Si Muse no funciona, las cosas van a ir mal”
Susan Li avisa sobre el cuidado que se debe tener, teniendo en cuenta la experiencia previa con el metaverso
Cada cuántos días se deben cambiar todas las contraseñas de redes sociales y correos
Los accesos breves y fáciles de descifrar dejan cuentas personales, financieras y laborales al alcance de herramientas capaces de probar combinaciones a gran velocidad
Cómo usar Windows RE: el salvavidas oculto de Microsoft cuando cuando Windows deja de funcionar en el PC
Este entorno de recuperación soluciona fallos críticos del sistema como bucles de reinicio y pantallas azules
