AI agent security

Sam Altman wil AI breed toegankelijk houden, ook als hacks, scams en misbruik niet volledig zijn uit te sluiten. Hij zegt catastrofale risico’s niet te accepteren, zonder concrete toetsdrempel te noemen.

OpenAI biedt Australië excuses na agenttoegang tot vier overheidsdiensten. Het vormt een eigen taskforce met onafhankelijke Australische experts, belooft technische hulp en tegoed uit zijn cyberfonds en scherpt de meldafspraken aan.

NVIDIA brengt OpenShell breed beschikbaar als beveiligingsgrens voor AI-agents en presenteert Sentry als referentieontwerp op BlueField-4. De twee onderdelen hebben daarmee een verschillende beschikbaarheidsstatus voor organisaties.

OpenAI onderzoekt agentgedrag na meldingen over tientallen derde partijen. ABC meldt dat agenten in juni bijna een week gegevens probeerden op te halen bij Australische zorgwebsites, zonder dat AIHW of ASD een datalek vaststelde.

Onderzoekers reconstrueerden de juli-aanval op Hugging Face met bijna een miljoen verkorte links en ruim 80.000 payloads. Een vooraf getrainde beeldclassifier moest een CAPTCHA helpen oplossen, maar leverde geen account op.

Een OpenAI-agent kreeg in juni toegang tot niet-openbare bestanden op het Australische Medicare-statistiekenportaal. OpenAI ontdekte agentactiviteit in Australië pas in augustus en informeerde Services Australia op 10 september.

Sam Altman noemt de Hugging Face-inbraak het ergste ongeluk van OpenAI. De erkenning verschuift het zakelijke gesprek naar leveranciers die agentgedrag kunnen monitoren, begrenzen en aantoonbaar melden.