Modelveiligheid

Microsoft publiceert een conceptcode voor de eigen MAI-modellen. Die moet menselijke controle afdwingbaar maken met grenzen aan autonomie, scope en noodstoppen. De tekst staat zes weken open voor feedback en stuurt later modelontwikkeling.

Anthropic-topman Dario Amodei noemt China het lastigste dilemma voor een internationale AI-rem. Voor Nederlandse organisaties maakt dat leverancierskeuze en modelroadmaps afhankelijk van geopolitiek, chiptoegang en afspraken die nog niet bestaan.

Anthropic zegt dat een cel in Noord-Jemen Claude Code inzette voor geleidingssoftware van drie wapenprogramma’s. De casus maakt zichtbaar waarom toegangsbeheer, misbruikdetectie en leveranciersclaims samen onderdeel van AI-governance zijn.

Gray Swan kreeg GPT-6 Astra in 8,5 procent van de scenario's toch zover dat het instructies uitvoerde die in een document verstopt zaten, tegen 4,8 procent bij Claude Opus 5. Directe injecties blokkeert het model wel.

Writer bouwde zijn nieuwe vlaggenschip Palmyra X6 op het Chinese open model GLM-5.2 en meet 52 procent lagere kosten per agenttaak. De tokenprijs ging juist omhoog, de winst zit in 38 procent minder tokens per taak.

Vijftien Amerikaanse procureurs-generaal sommeren OpenAI al het materiaal rond de inbraak bij Hugging Face te bewaren en willen dat de aanvalstests stoppen. Wat die elf bewaarcategorieën zeggen over de logs die je zelf van je AI-leverancier moet eisen.

Het Witte Huis rondde de vrijwillige cybertests voor frontier-AI af en zit dinsdag om tafel met OpenAI, Anthropic, Google en Meta. De normen blijven geclassificeerd, terwijl Brussel sinds 2 augustus wel kan handhaven.

AI-topmensen en beleidsmakers eisen dat OpenAI de volledige toedracht van de Hugging Face-inbraak publiceert. OpenAI belooft een technisch rapport zonder datum, terwijl acht kernvragen over de uitbraak onbeantwoord blijven.