Overmatige handelingsvrijheid van een agent

OpenAI-topman Chris Lehane zegt dat bedrijven zich moeten voorbereiden op doorlopende AI-aanvallen vanuit open modellen. Dat verschuift de rekening van preventie naar detectie, logging en wat je in een leverancierscontract vastlegt.

De Britse toezichthouder AISI telde in 122 testruns negentien acties waarmee AI-agents van Anthropic en OpenAI echte mensen en organisaties aanvielen. Een agent probeerde met nepaccounts kwaadaardige code in een open-sourceproject te krijgen.

Een kritiek lek in Claude voor Chrome laat kwaadaardige extensies de AI-assistent stil taken laten uitvoeren op Gmail, Agenda en Salesforce. Anthropic sloot de meldingen zonder patch. Wat betekent dat voor je extensie- en agent-beleid?