AI-agent beveiliging

Eén geprepareerde ChatGPT-link liet OpenAI's Agent Builder in stilte een kwaadaardige AI-agent aanmaken die de rechten van een medewerker overnam. OpenAI dichtte het lek al, maar het patroon blijft.

Beveiliger Neo kwam uit stealth met 100 miljoen dollar en een nieuwe categorie: het beheersen van AI-agents die met echte gebruikersrechten binnen bedrijfssoftware handelen. Klassieke beveiliging ziet dat gedrag niet aankomen.

Ant Group heeft SingGuard-NSFA open-source vrijgegeven, een gratis beveiligingslaag die autonome AI-agents afschermt tegen prompt-injectie, goal hijacking en tool-misbruik. Het lichtste model draait op bescheiden hardware onder een Apache 2.0-licentie.

Voor het eerst is gedocumenteerd dat een AI-agent zelfstandig een volledige ransomware-aanval uitvoert. Sysdig volgde JADEPUFFER, dat via een oud Langflow-lek inbrak en een productiedatabase versleutelde. Een governance-vraag voor elk bedrijf met AI-agents.

Microsoft beschrijft AutoJack, een aanvalsketen waarmee een kwaadaardige webpagina een lokaal draaiende AI-agent misbruikt om opdrachten uit te voeren op de host. De echte les gaat verder dan één tool.