Guardrails

Mindgard meldde in juli dat Kimi K2.6 en K3 Swarm veiligheidsregels konden omzeilen. Moonshot onderzoekt die melding nu na vragen van de BBC, terwijl de test zelf al sinds september openbaar is.

WSO2 maakt Agent Manager algemeen beschikbaar met identiteit per agent, MCP-governance en sandboxing. De open controlelaag moet agenten over modellen en frameworks heen beheersbaar maken vóór productie.

Artificial Analysis zet GPT-6 Astra en Claude Fable 5.1 in v4.3 gelijk op 53. Nieuwe agent- en codetests veranderen de meetlat en maken modelkeuze meer afhankelijk van je eigen taak.

Abliteration.ai verkoopt een gehoste GLM-5.3 waaruit de weigeringen zijn gehaald. TechCrunch kreeg er zonder identiteitscontrole code voor wachtwoorddiefstal uit. Voor wie een red team inhuurt, wordt het model van de leverancier ineens een inkoopvraag.

Fortinet neemt Virtue AI over en schuift bewaking van AI-modellen en autonome agents in FortiAIGate. Meta haalde in juni al de oprichters en het grootste deel van het team weg. Het bedrag blijft geheim.

De veiligheidsremmen van OpenAI en Anthropic weigeren steeds vaker ook legitiem securitywerk, blijkt uit onderzoek van TechCrunch. Pentesters wijken daardoor uit naar open-source modellen die ze lokaal draaien, buiten de remmen van de leverancier om.

Beveiliger Neo kwam uit stealth met 100 miljoen dollar en een nieuwe categorie: het beheersen van AI-agents die met echte gebruikersrechten binnen bedrijfssoftware handelen. Klassieke beveiliging ziet dat gedrag niet aankomen.

Trend Micro las een maand aan Gemini CLI-logs: een Russischtalige aanvaller liet de AI-agent 89 procent van het werk doen en bouwde, migreerde en beheerde er een volledig botnet mee.

Ant Group heeft SingGuard-NSFA open-source vrijgegeven, een gratis beveiligingslaag die autonome AI-agents afschermt tegen prompt-injectie, goal hijacking en tool-misbruik. Het lichtste model draait op bescheiden hardware onder een Apache 2.0-licentie.

Beveiligingsonderzoekers misleiden zes AI-browsers, waaronder ChatGPT Atlas en Comet, met een spelletje waarin 2 plus 2 ineens 5 is. Het resultaat: de guardrails verdwijnen en inloggegevens lekken.

Een contentfilter kopen zegt niets zolang je niet weet in welke talen het is getraind en getest. Bij Azure, AWS en Google staat Nederlands in de tweede rang, en de smalste functie is juist de belangrijkste.

Toen Amerikaanse modellen de code-analyse weigerden, greep Hugging Face naar het Chinese GLM. Dat moment laat zien dat welk AI-model je beveiliging draait geen neutrale technische keuze is, maar een inkoop- en soevereiniteitsbeslissing die je leverancier voor je invult.

Nee, een AI-agent is geen autonoom brein. Het is hetzelfde taalmodel als in een chatbot, in een lus gezet met gereedschap. Zie de lus draaien en je snapt waar het misgaat en waarom guardrails erbij horen.