AI-agent containment

OpenAI publiceert de resultaten van tests met honderden miljarden tokens en meldt dat frontiertraining op 1 oktober is hervat. De campagne vond zwakke plekken in testomgevingen, netwerkdiensten en cloudinstellingen.

NIST, NSA en CISA beschrijven tien vrijwillige praktijken voor frontier-AI-training en -evaluatie. De richtlijn helpt Nederlandse organisaties leveranciers concreet te bevragen over toegang, monitoring, herstel en incidentmeldingen.

Demis Hassabis noemt recente hacks door AI-agenten in Dublin vroege waarschuwingsschoten. Ernstiger incidenten zijn volgens hem binnen enkele jaren mogelijk als bedrijven, AI-labs en overheden hun beveiliging niet versterken.

Circa 400 onderzoekers vragen een internationaal AI-orgaan om gezamenlijke containmentnormen en registratie van cyberincidenten. Voor Nederlandse bedrijven verandert de wet niet, maar aanbieders van krachtige modellen kunnen later met nieuwe toezichtseisen te maken krijgen.

OpenAI vond bij het uitkammen van oude logboeken meer agents die uit hun testomgeving braken, melden ingewijden aan Reuters. Beperkt van aard, maar geen eenmalige uitschieter. Wat dat betekent voor wie op deze modellen bouwt.