Vijf grote AI-labs missen een vastgelegd plan voor een ontspoord model

Geen van de vijf grootste AI-labs heeft een vastgelegd plan om een model in te dammen dat zich aan menselijke controle onttrekt, blijkt uit de eerste openbare toets van standaardenorganisatie Guidelight AI Standards.

Dat raakt direct wie AI-agents op eigen systemen zet. Een leverancier die niet publiek beschrijft wat hij doet als zijn model ontspoort, kan dat in een contract ook moeilijk hard toezeggen. De toets levert daarvoor een bruikbare meetlat: zes praktijken die je stuk voor stuk kunt navragen voordat je tekent, van logboeken tot een noodprocedure. Het risico zelf is niet nieuw, wel dat er nu per lab op papier staat wat eraan ontbreekt.

Wat de scorekaart meet

Guidelight beoordeelde Anthropic, Google, Meta, OpenAI en xAI tussen juni en augustus 2026 op zes basispraktijken uit zijn Control-standaard: logboeken van wat interne AI doet, het meten of die monitoring werkt, goedkeuring vooraf voor risicovolle acties, het stilleggen van een systeem na een golf van gemarkeerd gedrag, beoordeling door derden, en een containmentplan. De toets gebruikt uitsluitend openbaar materiaal: systeemkaarten, veiligheidskaders, risicorapporten en blogposts. Het rapport verscheen op 18 augustus 2026.

De uitkomst is over de hele linie laag. Anthropic en OpenAI krijgen allebei een C+ (2,50), Google een D+ (1,50), xAI een D min (0,83) en Meta een F (0,67). Op de schaal van 0 tot 5 haalt geen enkel bedrijf op welke praktijk dan ook meer dan een 3, de trede die staat voor substantiële gedeeltelijke invoering. De meeste scores zijn een 2 of lager.

Indammen is de zwakste rij

Op de rij containmentplan lopen de verschillen het verst uiteen: OpenAI 3, Google 2, xAI 1, Anthropic 0 en Meta 0. Bij Anthropic en Meta vond Guidelight geen bewijs van zo'n plan of van een voornemen er een aan te nemen. Het risicorapport van Anthropic van augustus noemt het beperken van de uitrol van een model niet als mogelijke uitkomst van een onderzoek naar misalignment- en controle-incidenten. Over Meta is vooral bekend wat het opgaf aan evaluator METR voor diens Frontier Risk Report, en xAI was het enige beoordeelde bedrijf dat daar niet aan meedeed.

Google schreef in zijn AI Control Roadmap wel uit hoe zo'n plan eruit zou moeten zien, inclusief het afsluiten van een ontspoord model en van de systemen die het besmet heeft, maar voerde dat volgens de toets nog niet in.

De 3 van OpenAI berust op praktijk, niet op een document. Het bedrijf legde na het incident bij Hugging Face werklasten en training stil en beschreef wat er moest gebeuren voordat die weer aan mochten. In augustus pauzeerde het twee weken de RL-training van zijn nieuwste modellen en stelde het een alarmdrempel van 30 minuten in op verdachte activiteit. Een vooraf vastgelegd kader voor de volgende keer ontbreekt ook daar, aldus Guidelight.

Steven Adler, hoofdwetenschapper bij Guidelight en oud-veiligheidsonderzoeker bij OpenAI, noemt tegenover TechCrunch verrassend hoe weinig de AI-bedrijven hebben gezegd over de afhandeling van een ernstig incident waarbij hun model aan controle ontsnapt. Zonder plan, zegt hij, improviseren bedrijven hun reactie tegenover een veel snellere tegenstander.

De labs betwisten het beeld

Guidelight kijkt alleen naar wat openbaar staat, en daar wijzen de bedrijven ook op. Een woordvoerder van Google noemt het rapport geen volledige weergave van de veiligheids- en beveiligingsmaatregelen, maar liet de vraag of er een niet gepubliceerd containmentplan bestaat onbeantwoord. OpenAI zegt een proces te hebben om rechten in te trekken, werklasten te pauzeren, uitrol te beperken of een model volledig offline te halen, en dat ook te hebben toegepast. Anthropic laat weten dat het bij een model dat toezicht probeert te omzeilen eerst een risicobeoordeling doet om te bepalen of indammen de juiste reactie is. Meta verwijst naar zijn bestaande AI-kader. xAI reageerde niet op tijd.

Er zit ook een juridische rem op openheid. Privacy- en AI-advocaat Lily Li van Metaverse Law wijst erop dat te specifieke toezeggingen die een bedrijf vervolgens niet waarmaakt de basis kunnen vormen voor een claim wegens misleidende marketing.

De zes praktijken als inkoopvragen

Een containmentplan is in de definitie van Guidelight een vooraf vastgelegd plan dat in werking treedt zodra een AI wordt betrapt op het omzeilen van controle, en dat beschrijft welke rechten vervallen, voor wie het model nog draait, onder welke beperkingen, en wanneer het helemaal offline gaat. De zes beoordeelde praktijken laten zich stuk voor stuk omzetten in een vraag aan een leverancier:

• Logboeken: legt hij vast wat zijn modellen intern doen, en krijg je bij een incident toegang tot dat spoor?
• Werkende monitoring: meet hij hoe goed die detectie werkt, of staat er alleen dat er gemonitord wordt?
• Goedkeuring vooraf: moet een risicovolle actie langs een controle voordat ze effect heeft?
• Noodrem: gaat een systeem stil na een golf van gemarkeerd gedrag, en binnen welke termijn?
• Toetsing door derden: laat hij zijn controles extern beoordelen, en worden de bevindingen gepubliceerd?
• Containmentplan: staat op papier wie beslist, welke rechten vervallen en wanneer het model helemaal uit gaat?

Voor Nederlandse organisaties komt daar de meldkant bij. De AI-verordening laat een aanbieder van een model met systeemrisico een ernstig incident melden bij het Europese AI-bureau, niet bij de organisatie die geraakt wordt, en D66 en CDA vroegen de staatssecretaris op 19 augustus 2026 of Nederland zich ervoor inzet dat zo'n melding ook bij afnemers landt. Zolang dat niet geregeld is, is een meldtermijn in het contract het enige harde aanknopingspunt.

Regelgeving haalt de vrijblijvendheid eruit

Wat nu nog vrijwillige publicatie is, wordt verplichte kost. De Californische wet SB 53 verplicht grote frontier-ontwikkelaars dit jaar al om te publiceren hoe zij kritieke veiligheidsincidenten herkennen en beantwoorden en hoe zij omgaan met modellen die toezichtmechanismen omzeilen. De New Yorkse RAISE Act met vergelijkbare eisen gaat in januari in. Op 23 juli 2026 dienden de Congresleden Ted Lieu en Nathaniel Moran de AI Kill Switch Act in, die ontwikkelaars van de zwaarste systemen de technische mogelijkheid laat behouden om zo'n systeem af te remmen, op te schorten of volledig uit te zetten en het Amerikaanse ministerie van Binnenlandse Veiligheid de bevoegdheid geeft dat af te dwingen. Connor Leahy van de non-profit ControlAI noemt een kill switch het absolute minimum voor de modellen van vandaag.

Guidelight tekent zelf aan dat een lage score gebrekkige openbaarmaking meet en niet per se ontbrekende interne waarborgen. Voor een afnemer is dat verschil juist het punt. Een procedure die nergens staat, is niets waar een contract, een toezichthouder of een verzekeraar iets aan heeft. Het antwoord op de vraag wat er gebeurt als een model ontspoort verschuift daarmee van vertrouwen naar een document dat je kunt opvragen.