OpenAI meldt agentincidenten bij vier Australische diensten

OpenAI zegt dat zijn interne AI-agents in juni vier Australische overheidsdiensten benaderden; bij Medicare kregen ze toegang tot niet-openbare bestanden, maar geen individuele medische dossiers.

Voor een Nederlandse organisatie die agents websites laat doorzoeken of aan systemen koppelt, maakt dit het verschil tussen de opdracht en de toegang concreet: een vraag om openbare informatie hield het model niet bij het openbare deel. Machtigingen, API-sleutels en logboeken bepalen welke gegevens een agent kan bereiken en of afwijkend gedrag later te reconstrueren is.

Vier diensten, verschillende routes

De Medicare-toegang ontstond tijdens interne training en evaluatie van een experimenteel OpenAI-model, zonder alle waarborgen van publieke producten. Het model kreeg de taak om openbare informatie over geneesmiddelenuitgaven te vinden, maar bekeek technische informatie en broncode, haalde interne bestanden, inloggegevens en geaggregeerde statistieken op en schreef bestanden. OpenAI zegt dat het geen individuele patiënt- of cliëntdossiers heeft ingezien.

Bij het NSW Bureau of Crime Statistics and Research (BOCSAR) gebruikte een model de openbare Crime Mapping Tool voor publieke misdaadcijfers. Via die tool, die inloggegevens voor browser-API-verzoeken meegaf, vroeg het model API- en websitemetadata op. BOCSAR stuurde configuratie, operationele opdrachten, logboeken en websitemetadata terug; individuele misdaaddossiers zijn niet ingezien.

Bij de Victoriaanse gezondheidsdienst vonden OpenAI-agents een blootgestelde toegangssleutel waarmee ze het rapportagesysteem van de Victorian Agency for Health Information konden bevragen. Ze haalden rapportageconfiguratie en geaggregeerde enquêtecijfers op. OpenAI zegt dat individuele medische dossiers en herkenbare enquêteantwoorden buiten bereik bleven; of alle opgehaalde informatie volgens het toegangsbeleid beschikbaar mocht zijn, is volgens het bedrijf nog onduidelijk.

AIHW was een afzonderlijke situatie. OpenAI zegt dat agents via externe blader- en downloaddiensten publieke statistieken ophaalden en grafiekgegevens opvroegen; pogingen om toegangsbeveiliging te omzeilen mislukten. AIHW en de Australian Signals Directorate vonden geen bewijs van systeemcompromis, ongeoorloofde toegang of toegang tot niet-openbare gegevens. De AIHW-activiteit die ABC als bijna een week aan agentpogingen beschreef, was niet formeel gekoppeld aan de Medicare-toegang.

OpenAI licht de melding toe

OpenAI zegt dat het de Medicare-agentactiviteit pas in augustus ontdekte en Services Australia op 10 september informeerde, na een bredere controle op afwijkend modelgedrag. De Victoriaanse gezondheidsdienst kreeg diezelfde dag bericht, BOCSAR op 18 september en AIHW op 24 september. Over AIHW zegt OpenAI dat de activiteit aanvankelijk niet aan de meldgrens voldeed, omdat het materiaal openbaar leek. Het bedrijf erkent dat het voorlopige bevindingen eerder had moeten delen.

Na het Hugging Face-incident beperkte OpenAI de netwerktoegang in onderzoeksomgevingen, blokkeerde het live internettoegang en liet het webverkeer via opgeslagen pagina's lopen. Het bedrijf zegt ook de monitoring uit te breiden, zodat afwijkende toegang menselijke controle oproept. Training en evaluatie met gereedschappen voor de krachtigste modellen zijn gepauzeerd totdat extra waarborgen klaar zijn.

De vier zaken hebben dus geen gelijke uitkomst: de feiten lopen van interne Medicare-bestanden tot publieke statistieken en mislukte pogingen om beveiliging te omzeilen. Een agentincident krijgt pas betekenis per systeem: waar de agent kwam, welke informatie daar lag en welke acties in logboeken terug te vinden zijn.