Guardrails

Fortinet neemt Virtue AI over en schuift bewaking van AI-modellen en autonome agents in FortiAIGate. Meta haalde in juni al de oprichters en het grootste deel van het team weg. Het bedrag blijft geheim.

De veiligheidsremmen van OpenAI en Anthropic weigeren steeds vaker ook legitiem securitywerk, blijkt uit onderzoek van TechCrunch. Pentesters wijken daardoor uit naar open-source modellen die ze lokaal draaien, buiten de remmen van de leverancier om.

Beveiliger Neo kwam uit stealth met 100 miljoen dollar en een nieuwe categorie: het beheersen van AI-agents die met echte gebruikersrechten binnen bedrijfssoftware handelen. Klassieke beveiliging ziet dat gedrag niet aankomen.

Trend Micro las een maand aan Gemini CLI-logs: een Russischtalige aanvaller liet de AI-agent 89 procent van het werk doen en bouwde, migreerde en beheerde er een volledig botnet mee.

Ant Group heeft SingGuard-NSFA open-source vrijgegeven, een gratis beveiligingslaag die autonome AI-agents afschermt tegen prompt-injectie, goal hijacking en tool-misbruik. Het lichtste model draait op bescheiden hardware onder een Apache 2.0-licentie.

Beveiligingsonderzoekers misleiden zes AI-browsers, waaronder ChatGPT Atlas en Comet, met een spelletje waarin 2 plus 2 ineens 5 is. Het resultaat: de guardrails verdwijnen en inloggegevens lekken.

Een contentfilter kopen zegt niets zolang je niet weet in welke talen het is getraind en getest. Bij Azure, AWS en Google staat Nederlands in de tweede rang, en de smalste functie is juist de belangrijkste.

Toen Amerikaanse modellen de code-analyse weigerden, greep Hugging Face naar het Chinese GLM. Dat moment laat zien dat welk AI-model je beveiliging draait geen neutrale technische keuze is, maar een inkoop- en soevereiniteitsbeslissing die je leverancier voor je invult.

Nee, een AI-agent is geen autonoom brein. Het is hetzelfde taalmodel als in een chatbot, in een lus gezet met gereedschap. Zie de lus draaien en je snapt waar het misgaat en waarom guardrails erbij horen.