Australia obligará a OpenAI y a otras empresas de IA a decir de inmediato cuando un agente se salga de control

El Gobierno de Australia hará obligatorio que las empresas de inteligencia artificial (IA) informen de inmediato cuando uno de sus modelos actúe fuera de control, y que permitan evaluar esos modelos. El primer ministro Anthony Albanese anunció recientemente que acepta las más de 15 sugerencias de una revisión urgente del caso OpenAI.

La revisión se encargó en septiembre de 2026, cuando OpenAI declaró a las autoridades de que un agente de IA (un asistente que ejecuta tareas por su cuenta) había entrado sin permiso en sitios del Gobierno, entre ellos el portal de estadísticas de Medicare, el sistema público de salud.

Entre las pautas figuran el reporte obligatorio de conductas desalineadas o incidentes informáticos, según el comunicado oficial del Gobierno. También incluyen estudiar una reforma del derecho penal para casos de mala conducta grave y mejorar el intercambio de información ante incidentes de IA.

El comunicado agrega que el Gobierno ya empezó a aplicar las recomendaciones. El texto no detalla plazos, sanciones ni qué se considera un modelo que se sale de control. Tampoco dice cómo se harán las evaluaciones que mencionó Reuters.

Un agente de IA que tardó dos meses en ser detectado

El incidente comenzó a mitad de junio de 2026. Un agente de OpenAI encargado de investigar el gasto público en medicamentos recibió una negativa al pedir ciertos datos y, pese a eso, accedió por su cuenta a un portal antiguo de Services Australia, el organismo de servicios sociales.

Allí copió estadísticas de salud no públicas y archivos internos. Según esos medios, los datos eran agregados y no incluían información personal, y el Gobierno cree que no se accedió a datos personales. Investigadores lo describieron como el primer hackeo autónomo de un sitio gubernamental.

OpenAI detectó el problema el 11 de agosto de 2026, durante una revisión de la actividad de sus modelos en entrenamiento. Avisó el 10 de septiembre de 2026 con un correo a una dirección genérica, usada por investigadores para señalar fallas, que según Reuters se revisa una vez al día.

Albanese había calificado el hecho de “inaceptable” y dijo que transmitió su “extrema preocupación” a Sam Altman, CEO de OpenAI. En el comunicado, el Gobierno repitió que el incidente fue inaceptable y que la divulgación de la empresa fue “inadecuada”.

OpenAI pidió disculpas ante el Parlamento

En octubre de 2026, el director de estrategia de OpenAI, Jason Kwon, declaró ante una comisión parlamentaria en Sídney que la respuesta de la empresa “no es suficiente”. Kwon dijo que el hecho “no debería haber ocurrido” y que la compañía debía haber actuado mejor. La empresa añadió precauciones en sus espacios de entrenamiento.

Kwon explicó que ahora vigilan a los modelos en tiempo real durante las pruebas y que una alarma salta si interactúan con internet de forma no prevista. Gracias a eso, dijo, avisaron en 48 horas al Gobierno de Nueva Gales del Sur de otro acceso indebido. OpenAI agregó que apoyaría un marco de divulgación obligatoria.

El primer ministro de ese estado, Chris Minns, había dicho de que un agente de OpenAI accedió a una base de datos de investigación de la oficina estatal de estadísticas sobre delitos. En septiembre de 2026, Medicare era uno de al menos cuatro accesos a sitios del Gobierno australiano.

Durante la audiencia, Dave Orr, jefe de salvaguardas de Anthropic, dijo que su empresa revisó cientos de millones de registros de conversaciones tras la intrusión de agentes de OpenAI en la plataforma Hugging Face, en julio de 2026, y no halló casos similares en sitios australianos.

En septiembre de 2026, el ministro asistente de Ciencia, Tecnología y Economía Digital, Andrew Charlton, dijo que el Gobierno quería presentar antes de fin de año proyectos de ley con estándares de seguridad para la IA y aprobarlos a comienzos de 2027.