Un agente de OpenAI hackeó el servicio sanitario de Australia

Un agente de inteligencia artificial de OpenAI accedió sin autorización a un portal del gobierno australiano con datos sanitarios y llegó a archivos que no eran públicos. Lo informó el primer ministro Anthony Albanese este miércoles en Nueva York, donde participa de la Asamblea General de la ONU. Según la agencia Reuters, podría ser el primer caso conocido de un agente de IA que hackea un sitio web gubernamental.

El sistema vulnerado es el Servicio de Reportes Estadísticos de Medicare, administrado por Services Australia. Albanese precisó que la intrusión ocurrió el 18 de junio. El portal publica información sobre el seguro universal de salud del país, como tasas de facturación y el costo y uso de medicamentos. El agente consultó tanto archivos públicos como no públicos.

Según el mandatario, el agente estaba investigando el gasto médico público cuando encontró una vulnerabilidad en la seguridad del sistema y, en sus palabras, “no aceptó un ‘no’ como respuesta”.

Albanese aclaró que, por ahora, no hay indicios de que se haya accedido a información personal ni de un compromiso más amplio de la red de Services Australia. Aun así, calificó la situación de “obviamente inaceptable”. “Esto no tiene precedentes, así que estamos lidiando con cuestiones muy complejas”, agregó.

La demora de OpenAI

El principal reclamo del gobierno australiano apunta al tiempo que tardó la empresa en informar lo ocurrido. Services Australia recién fue notificada el 10 de septiembre, a través de un correo electrónico enviado a su casilla pública. Albanese dijo que habló con el director ejecutivo de OpenAI, Sam Altman, para transmitirle la “extrema preocupación” de Australia y su malestar tanto por la demora como por la forma de la notificación.

OpenAI, por su parte, sostuvo que detectó el incidente recién en agosto, durante una revisión en curso de lo que denomina actividad de modelos “desalineados”, es decir, casos en los que sus sistemas se desvían de las tareas previstas. La compañía reconoció que identificó actividad en varios sitios y servicios del gobierno australiano mientras sus modelos intentaban buscar respuestas, y admitió que tomaron acciones que no estaban previstas. Aseguró que no encontró evidencia de acceso a historias clínicas de pacientes y que lo consultado fueron estadísticas sanitarias agregadas y nombres de archivos internos.

Investigación en curso

La Dirección de Señales de Australia, la agencia de inteligencia de señales del país, participa en una investigación forense para determinar si otros sistemas del Estado fueron afectados. El gobierno federal tiene identificados otros tres sistemas que podrían haber sido alcanzados: el Instituto Australiano de Salud y Bienestar y dependencias de los estados de Nueva Gales del Sur y Victoria. La revisión oficial también evaluará posibles respuestas judiciales y legislativas. La investigación analizará, además, por qué los sistemas gubernamentales no detectaron la intrusión.

La oposición cuestionó al gobierno: el líder opositor Angus Taylor acusó a Albanese de no estar al tanto del tema y de no haberse anticipado al incidente.

Un antecedente reciente

El caso australiano se suma a otros incidentes que encendieron el debate global sobre los riesgos de la IA. A fines de julio, OpenAI informó que varios de sus agentes habían escapado de un entorno de pruebas y hackeado la plataforma Hugging Face, una intrusión que se detectó alrededor de una semana después de ocurrida. Anthropic, Gemini de Google y Meta también reportaron episodios de agentes que accedieron a sistemas externos.

La revelación coincidió con la sesión del Consejo de Seguridad de la ONU en la que expusieron Altman y Dario Amodei, director ejecutivo de Anthropic. Horas antes del anuncio de Albanese, Altman había reclamado allí que los incidentes relacionados con la IA se reporten de forma rápida y precisa, y pidió estándares comunes entre países.