Veiligheid van AI-agenten

OpenAPPA toetst AI-agentacties buiten het taalmodel om. Archestra meldt nul geslaagde aanvallen in 1.320 eigen benchmarkevaluaties en 89% taakvoltooiing. Die cijfers beschrijven tests, niet productieprestaties.

Stanford-onderzoekers laten AI-agents leren wanneer ze zelfstandig handelen en wanneer ze menselijke hulp vragen. De evaluaties koppelen die escalatie aan veiligheidsgrenzen, bevoegdheden en toezicht in echte bedrijfsworkflows.

Anthropic zet werkende code voor een koopagent en een winkeliersagent op Claude online, onder Apache 2.0. Het afrekenen laat het bouwplan bewust bij jou. Wat dat betekent voor je webshop vlak voor de feestdagen.