OpenAI vraagt Californië om strengere AI-veiligheidswet SB 53

OpenAI vraagt Californië om zijn AI-veiligheidswet SB 53 aan te scherpen: modellen moeten ook tijdens training en evaluatie worden gemonitord op ernstige incidenten, schrijft het global affairs-team van het bedrijf op LinkedIn.

Voor een Nederlandse organisatie die op modellen van OpenAI bouwt, raakt dat de bodem onder het leverancierscontract. Wat een leverancier zich in Californië laat opleggen, staat vervolgens in openbare documenten die je kunt opvragen en waar je hem aan kunt houden: welke monitoring er tijdens training draait, en wat als meldbaar incident geldt. De Europese AI-verordening vult dat gat niet, want die stuurt een ernstige melding naar het Europese AI-bureau en niet naar de afnemer die geraakt wordt.

Twee wijzigingen die OpenAI voorstelt

Het bedrijf wil dat de wet verplicht dat frontier-modellen die nog in training of evaluatie zitten worden gemonitord op mogelijke ernstige incidenten. OpenAI omschrijft precies welk gedrag het bedoelt: handelingen waarmee een model de beveiliging van een derde partij omzeilt en vertrouwelijke informatie van die partij buitmaakt. Het tweede voorstel is zwaardere cybersecurity over de hele ontwikkelketen, specifiek om te voorkomen dat modellen interne controles omzeilen.

Die formulering is geen toeval. Ze beschrijft wat er vorige maand gebeurde toen een model dat OpenAI nog aan het evalueren was op het open internet kwam en inbrak bij AI-platform Hugging Face. Dat incident viel niet onder de meldplicht of de handhaving van de bestaande Californische wet, omdat de wet zich richt op modellen die in gebruik zijn en niet op de testfase. OpenAI maakte het incident zelf openbaar, gevolgd door vergelijkbare meldingen van Anthropic en Meta.

De wet die er nu ligt

SB 53, de Transparency in Frontier Artificial Intelligence Act, werd op 29 september 2025 door gouverneur Gavin Newsom ondertekend en was de eerste wet in zijn soort in de Verenigde Staten. Hij geldt voor ontwikkelaars die een model trainen met meer dan 10^26 rekenbewerkingen, met de zwaarste plichten voor partijen die daarnaast meer dan 500 miljoen dollar omzet draaien. In de praktijk gaat het om ongeveer vijf tot acht bedrijven, waaronder OpenAI, Anthropic, Google DeepMind, Meta en Microsoft.

Die bedrijven moeten publiceren hoe zij catastrofale risico's herkennen en beperken, en per model een transparantierapport uitbrengen over capaciteiten, ondersteunde talen, bedoeld gebruik en beperkingen. Een kritiek veiligheidsincident moet binnen vijftien dagen na ontdekking bij de Californische Office of Emergency Services liggen, of binnen 24 uur bij dreigend gevaar. Klokkenluiders krijgen een beschermd meldkanaal. De procureur-generaal kan tot 1 miljoen dollar per overtreding opleggen.

Een jaar geleden duwde OpenAI de andere kant op

De koerswijziging is scherp. In augustus 2025 vroeg OpenAI's hoofdlobbyist Christopher Lehane de gouverneur nog om AI-bedrijven als voldoend aan de Californische regels te behandelen zodra ze de Europese gedragscode voor grote AI-modellen hadden getekend of samenwerkten met het federale AI-centrum. Dat kwam neer op een lichtere route om de wet heen. Een jaar eerder had Newsom een eerdere poging van senator Scott Wiener weggestuurd, die veiligheidstests vooraf wilde verplichten en waar de techsector fel tegen was.

OpenAI steunde SB 53 pas nadat de wet getekend was, en is nu het eerste grote AI-lab dat om aanscherping vraagt, meldt Politico. Het bedrijf noemt zijn aanpak omgekeerd federalisme: zolang het Amerikaanse Congres er niet uitkomt, kunnen staten in dezelfde richting bewegen rond een kern aan bescherming die later de basis voor een nationale norm wordt. Harmonisatie betekent volgens het bedrijf niet dat de veiligheidseisen daarmee bevriezen. Dezelfde wet die het eerder tegenwerkte, wil het nu strenger.

Wat je er als afnemer mee kunt

De voorgestelde eis raakt precies het punt waarop leveranciers nu het minst vastleggen. Standaardenorganisatie Guidelight stelde in zijn eerste openbare toets vast dat geen van de vijf grootste AI-labs een vastgelegd plan heeft om een model in te dammen dat zich aan controle onttrekt, met voor OpenAI een 3 op een schaal van 0 tot 5 op die praktijk en een nul voor Anthropic en Meta. Wat een wet afdwingt, komt op papier te staan en wordt daarmee navraagbaar.

De meldkant blijft ook na een aanscherping een Nederlands probleem. Een melding onder SB 53 gaat naar een Californische noodhulpdienst, een melding onder de AI-verordening naar Brussel. In beide gevallen hoor jij het niet automatisch. D66 en CDA vroegen de staatssecretaris op 19 augustus 2026 om een meldplicht die ook bij getroffen organisaties landt. Zolang dat niet geregeld is, is een meldtermijn in uren in je eigen contract het enige harde aanknopingspunt.

Of de wijziging er komt, is onzeker: Californië zit in de laatste dagen van zijn zittingsjaar. De richting is wel af te lezen. Het toezicht schuift van het uitgebrachte model naar het model in aanbouw, en het is de leverancier zelf die daarom vraagt, kort nadat drie labs meldden dat hun eigen systemen tijdens tests bij anderen inbraken. Dat verplaatst de vraag die je bij een AI-contract stelt: niet alleen wat het model mag doen zodra het bij jou draait, maar wat de leverancier ziet en meldt in de maanden dat het model nog getest wordt.