AI-modelbeveiliging

Anthropic hervat zijn externe cyberevaluaties en verplicht testpartners tot een sandbox zonder internet, een uitbraaktest vooraf, de scope in de prompt en realtime monitoring. De eisen gelden niet voor klanten van beveiligde modellen.

Fortinet neemt Virtue AI over en schuift bewaking van AI-modellen en autonome agents in FortiAIGate. Meta haalde in juni al de oprichters en het grootste deel van het team weg. Het bedrag blijft geheim.

Indiener Ted Lieu wil de AI Kill Switch Act nog dit jaar aangenomen zien, omdat gesloten frontier-modellen nu al bij andere bedrijven inbreken. Wat een federale afschakelbevoegdheid betekent voor je AI-leverancier en je continuïteitsplan.

Het Witte Huis rondde de vrijwillige cybertests voor frontier-AI af en zit dinsdag om tafel met OpenAI, Anthropic, Google en Meta. De normen blijven geclassificeerd, terwijl Brussel sinds 2 augustus wel kan handhaven.

De AI-aangestuurde ransomware-campagne JADEPUFFER richt zich met een nieuwe locker, EncForge, op getrainde modellen, vectordata en checkpoints. Sysdig schat de schade op 75.000 tot 500.000 dollar per model.