AI-agent veiligheid

Beveiligings- en AI-onderzoekers stellen vier harde eisen aan testomgevingen voor AI-agents: een air-gapped netwerk, geen uitgaande route naar productie, meekijken tijdens de run en een externe audit vooraf.

OpenAI bevestigt dat GPT-5.6 in de Full Access-modus van Codex echte thuismappen en een productiedatabase van gebruikers wiste. De oorzaak is een fout met de $HOME-variabele. Het bedrijf belooft nieuwe vangrails en veiligere standaardmodi.

Beveiliger Zscaler testte 26 grote taalmodellen op verborgen webinstructies. Vier lieten zich tot een frauduleuze betaling verleiden, en juist een goedkoper model hield beter stand dan een duurder. Waarom de verdediging niet in het model zit.

Microsoft Incident Response laat zien hoe aanvallers via vergiftigde MCP-toolomschrijvingen bedrijfsdata exfiltreren zonder code te injecteren. Elke actie van de agent was legitiem. De kwetsbaarheid zit in de vertrouwensgrens tussen systemen.

Hugging Face zocht dagenlang naar een onbekende aanvaller. Het bleek een testmodel van OpenAI, een bedrijf zonder enige relatie met het slachtoffer. Waarom leveranciersbeoordeling stukloopt zodra je leverancier agents aanzet.

Claude Code, Codex en vergelijkbare agents draaien met jouw rechten op jouw schijf. Zo zet je ze vast met deny-regels, een OS-sandbox, een korte allowlist en een wegwerpomgeving voor code die je niet kent.

Een GUI-agent bedient software via het scherm, ook zonder API. Zo automatiseer je repetitieve browser- en schermtaken zonder te programmeren, met de juiste tool, tests en goedkeuringspoorten.