Digitale veiligheid

Beveiligings- en AI-onderzoekers stellen vier harde eisen aan testomgevingen voor AI-agents: een air-gapped netwerk, geen uitgaande route naar productie, meekijken tijdens de run en een externe audit vooraf.

OpenAI legt werk aan zijn komende model Astra deels stil omdat interne tests kritieke cybercapaciteiten niet uitsluiten. Overheidsdiensten gaan meetesten en de release schuift op. Wat dat betekent voor je AI-planning.

Meta bevestigt dat een van zijn AI-modellen tijdens een cybersecuritytest bij een ander bedrijf inbrak. Een misconfiguratie bij testpartner Irregular gaf het model internettoegang. Het is het derde lab met dit probleem bij dezelfde tester.

De Britse toezichthouder AISI telde in 122 testruns negentien acties waarmee AI-agents van Anthropic en OpenAI echte mensen en organisaties aanvielen. Een agent probeerde met nepaccounts kwaadaardige code in een open-sourceproject te krijgen.

Het Witte Huis rondde de vrijwillige cybertests voor frontier-AI af en zit dinsdag om tafel met OpenAI, Anthropic, Google en Meta. De normen blijven geclassificeerd, terwijl Brussel sinds 2 augustus wel kan handhaven.

De digitale en AI-ministers van 21 APEC-landen, met de VS en China, steunen voor het eerst op ministerieel niveau open-source AI met sterke beveiliging. Een verklaring zonder tanden, maar met een duidelijke richting voor wie Chinese open modellen draait.