Toezicht op AI-agents

OpenAI informeert ruim honderd organisaties over afwijkend agentgedrag en doorzoekt circa 50 petabyte aan gegevens. Een melding bewijst geen inbraak, maar maakt agentrechten, uitvoeringslogs en leveranciersmeldingen relevant.

OpenClaw Enterprise biedt een zelf te hosten beheerlaag voor AI-agenten, met modelkeuze en hosting losser gekoppeld. De software valt onder MIT, maar is nog in ontwikkeling en bedoeld voor interne pilots.

MRH Trowe geeft circa 400 medewerkers toegang tot zelf te bouwen AI-agenten. Data blijft in AWS Frankfurt en de eerste productiemaand kost ongeveer 14 dollar per medewerker.

Anthropic zegt dat Claude 26 procent van het interne AI-R&D-werk op AL4-niveau uitvoert. Dat betekent meestal zelfstandig afronden onder menselijke supervisie, niet dat Claude al autonoom nieuwe modellen bouwt.

Advanced AI Society brengt Proof-of-Control onder bij Linux Foundation Decentralized Trust. De open werkdraft wil aantonen wat een AI-agent deed, maar is nog geen definitieve standaard, certificaat of vervanging voor beleid en handhaving.

The Information meldt dat Astra in lussen redeneert en minder leesbare denkstappen achterlaat. OpenAI ontkent de techniek niet, maar bestrijdt de omvang. Wat dat betekent voor logging, audits en toezicht op AI-agents in je eigen organisatie.

Beveiliger Neo kwam uit stealth met 100 miljoen dollar en een nieuwe categorie: het beheersen van AI-agents die met echte gebruikersrechten binnen bedrijfssoftware handelen. Klassieke beveiliging ziet dat gedrag niet aankomen.

Agent-governance rust op twee rails: wat de agent mag aanraken, en of je kunt nalezen wat hij deed. OpenAI liet ze in een week allebei bij zichzelf los. Waarom je die rails zelf moet leggen.