OpenAI se disculpó con Australia por el acceso no autorizado de sus agentes a sistemas públicos de salud

OpenAI se disculpó el lunes con el Gobierno de Australia por no haber respondido de forma adecuada a un incidente de seguridad en el que uno de sus agentes de inteligencia artificial (IA) accedió sin autorización a un portal público con información sanitaria y alcanzó archivos que no eran públicos. La compañía reconoció además que debió informar antes a las autoridades australianas sobre lo ocurrido.

“Lo sentimos y trabajamos para hacerlo mejor en el futuro”, señaló OpenAI en una publicación en su blog, en la que anticipó que explicaría “lo que sabemos, lo que hemos cambiado y lo que haremos para reconstruir la confianza del pueblo australiano”.

El incidente ocurrió el 18 de junio, cuando un agente de IA de la compañía accedió sin autorización al Servicio de Reportes Estadísticos de Medicare, administrado por Services Australia. El portal contiene información sobre el sistema público de salud australiano, entre ella datos sobre tasas de facturación y sobre el costo y uso de medicamentos.

El primer ministro australiano, Anthony Albanese, reveló el caso la semana pasada en Nueva York, donde participa de la Asamblea General de la ONU, y calificó la intrusión de “obviamente inaceptable”.

Según explicó el mandatario, el agente de IA analizaba información sobre el gasto médico público cuando encontró una vulnerabilidad en la seguridad del sistema. El sistema consultó archivos públicos y también archivos que no eran públicos y, según Albanese, “no aceptó un ‘no’ como respuesta”.

El primer ministro aclaró que, hasta el momento, no existen indicios de acceso a información personal ni de un compromiso más amplio de la red de Services Australia. “Esto no tiene precedentes, así que estamos lidiando con cuestiones muy complejas”, afirmó.

El principal reclamo del Gobierno australiano contra OpenAI se concentra en la demora para comunicar el incidente. Services Australia recibió la notificación el 10 de septiembre, casi tres meses después del acceso, mediante un correo electrónico enviado a una dirección pública que, según Albanese, solo se revisa “una vez al día”.

El primer ministro dijo que habló con el director ejecutivo de OpenAI, Sam Altman, para transmitirle la “extrema preocupación” de Australia y su malestar tanto por el tiempo que demoró la comunicación como por la forma en que se notificó el incidente.

OpenAI reconoció en su publicación que debió informar “antes” al Gobierno australiano. “Nuestro objetivo era dar a los organismos afectados un informe detallado una vez nuestra investigación estuviera completa”, explicó la empresa.

“Sin embargo, deberíamos haber compartido nuestros hallazgos preliminares antes y mantener a los organismos australianos actualizados a medida que surgieran más hechos”, agregó.

La compañía indicó que detectó el incidente en agosto, durante una revisión de actividad de modelos que calificó como “desalineada”, una categoría que utiliza para describir situaciones en las que sus sistemas se desvían de las tareas previstas.

OpenAI señaló que identificó actividad en varios sitios y servicios del Gobierno australiano mientras sus modelos buscaban respuestas y admitió que sus sistemas adoptaron acciones que no estaban previstas. La compañía aseguró que no encontró evidencia de acceso a historias clínicas de pacientes y precisó que la información consultada correspondía a estadísticas sanitarias agregadas y nombres de archivos internos.

El caso es objeto de una investigación forense de la Dirección de Señales de Australia, la agencia de inteligencia de señales del país, para determinar si otros sistemas estatales fueron afectados.

El Gobierno federal identificó otros tres sistemas que podrían haber sido alcanzados: el Instituto Australiano de Salud y Bienestar y dependencias de los estados de Nueva Gales del Sur y Victoria. La revisión oficial también analizará posibles respuestas judiciales y legislativas, además de las razones por las que los sistemas gubernamentales no detectaron la intrusión.

(Con información de AFP)