Newsom versnelt onafhankelijke AI-audits en onderzoekt noodstop

De AI-order van Californië-gouverneur Gavin Newsom versnelt onafhankelijke controles en laat experts uiterlijk 16 november adviseren over een noodstop voor frontier-modellen, meldt zijn kantoor.

Voor een Nederlandse organisatie die een modeldienst inkoopt, verschuift het gesprek daardoor van alleen prestaties en prijs naar auditbewijs, incidentmeldingen en een uitwijkplan. De Californische regels gelden niet automatisch in Nederland, maar kunnen wel de documentatie, releaseplanning en contractvoorwaarden van leveranciers beïnvloeden.

Wat de order nu doet

De order werkt onmiddellijk, maar de directe opdrachten zijn procedureel. De Government Operations Agency moet uiterlijk 16 november, samen met het Office of Emergency Services en nationale experts, aanbevelingen indienen over de technische haalbaarheid en mogelijke werking van wijzigingen in de Californische AI-wetten. De onderliggende order legt ook deadlines vast voor de uitvoeringsregels rond onafhankelijke verificatieorganisaties: 1 mei 2027 voor aanvraag- en beoordelingscriteria en 1 december 2027 voor een volgende reeks uitvoeringsstappen.

Een noodstop is vandaag nog geen directe verplichting voor AI-bedrijven, schrijft CBS Sacramento. De aanbevelingen kunnen later wel leiden tot nieuwe wetgeving.

Vier voorstellen voor het expertadvies

De order noemt vier concrete richtingen die experts moeten beoordelen:

• onafhankelijke verificatieorganisaties periodiek in de laboratoria van grote frontier-ontwikkelaars laten werken;
• veiligheidskaders, transparantierapporten en risicobeoordelingen onafhankelijk laten verifiëren;
• een noodstop voor frontier-modellen laten maken en de werking ervan doorlopend laten controleren;
• de definitie van kritieke veiligheidsincidenten uitbreiden met incidenten waarbij een systeem de controle verliest.

California heeft hiervoor al twee bouwstenen klaargezet. SB 813 maakt een kader voor onafhankelijke verificatieorganisaties, terwijl AB 1405 een register en onafhankelijkheids-, transparantie- en integriteitsnormen voor AI-auditors instelt. De nieuwe order versnelt de uitvoering van die wetten en vraagt tegelijk om advies over een volgende stap.

Van staatsorder naar leverancierscontract

Dit is ook niet de federale AI Kill Switch Act. Newsom tekent hier een Californische uitvoeringsorder die bestaande wetten versnelt en mogelijke nieuwe regels voorbereidt. Een Nederlands bedrijf krijgt door deze order geen rechtstreekse Californische plicht als het alleen een model-API afneemt.

Het effect kan wel landen bij de leverancier. Die kan te maken krijgen met auditors op locatie, onafhankelijk getoetste veiligheidsrapporten en periodieke controles van een noodstop. Voor de afnemer raakt dat aan contracten, releasevensters, incidentmeldingen en de vraag welk bewijs over modelveiligheid beschikbaar komt.

De lijn sluit aan bij OpenAI’s steun voor onafhankelijke veiligheidstoetsen van frontier-AI, maar deze order zet geen nationale norm. Californië probeert via de eigen wetten en uitvoeringsagenda een model te maken dat later elders kan worden overgenomen.

De praktische verschuiving is dus niet dat morgen elke chatbot een rode knop krijgt. Het is dat onafhankelijke verificatie, testbewijs en herstelbaarheid langzaam voorwaarden worden voor toegang tot frontier-AI. Voor Nederlandse inkopers komt modelveiligheid daarmee naast prijs, prestaties en privacy in dezelfde leveranciersvergelijking te staan.