Hassabis roept op tot VS-geleid toetsingsorgaan voor frontier-AI

Demis Hassabis, ceo van Google DeepMind, roept de Verenigde Staten op om een onafhankelijk toetsingsorgaan voor de krachtigste AI-modellen op te zetten, betaald door de industrie en gemodelleerd naar beurswaakhond FINRA. Hij legde het plan dinsdag vast in een eigen manifest en een exclusief interview met Axios.

Voor Nederlandse bedrijven die dagelijks op modellen als Gemini, GPT-5.6 of Claude draaien, is dit geen abstracte beleidsdiscussie. Het orgaan zou gaan bepalen of een frontier-model überhaupt op de Amerikaanse markt mag verschijnen, en daarmee of en wanneer jij er toegang toe krijgt. Precies die afhankelijkheid werd zichtbaar toen de VS de beperking op OpenAI's GPT-5.6 pas ophief na afstemming met het ministerie van Handel.

Wat Hassabis precies voorstelt

Het gaat om een privaat, door de industrie gefinancierd orgaan naar het model van FINRA, de waakhond die onder toezicht van beurstoezichthouder SEC de handel op Wall Street controleert. Het bestuur zou grotendeels onafhankelijk zijn, met Turing Award-winnaars en technische experts, aangevuld met vertegenwoordigers uit de industrie, de overheid en de open-source-wereld.

De kern is de toets zelf. Labs zouden hun modellen tot 30 dagen voor release vrijwillig ter beoordeling aanbieden, waarbij het orgaan test op gevaarlijke capaciteiten rond cyber, biologische dreigingen en misleiding. Zodra dat toetsregime "effectief en robuust" blijkt, moet het verplicht worden: een frontier-model zou de toets dan moeten doorstaan voordat het op de Amerikaanse markt mag. De benchmarks worden geregeld geactualiseerd, om te beginnen per kwartaal, en de regels gelden voor elk frontier-model, ongeacht het land van herkomst en of het open of gesloten is.

Voorlopig een oproep, geen wet

Belangrijk voor de nuance: dit is een voorstel, geen wetgeving. Hassabis heeft de afgelopen maanden achter de schermen steun gezocht bij de regering-Trump, andere lab-bazen en Europese functionarissen, maar er ligt geen wetstraject. Zijn tempo is niettemin hoog: hij wil het orgaan nog voor het einde van dit jaar operationeel hebben. Anthropic-ceo Dario Amodei deed eerder een eigen oproep tot bindend toezicht, naar het model van luchtvaartautoriteit FAA, met de bevoegdheid om onveilige modellen tegen te houden. De topmannen van Gemini en Claude zijn het er inmiddels over eens dát Washington moet ingrijpen; ze verschillen vooral over wie de macht krijgt.

De directe aanleiding was de "wake-up call" van vorige maand, toen de VS de toegang tot Anthropics Mythos- en Fable-modellen van de ene op de andere dag bevroor met een exportbesluit, terwijl er geen protocol bleek om dat ordelijk af te handelen.

Naast de Europese regels, niet in de plaats ervan

Voor een Nederlandse organisatie komt dit boven op een regime dat er al ligt. Sinds 2 augustus 2025 gelden onder de EU AI Act aparte verplichtingen voor general-purpose AI-modellen met een systeemrisico: modelevaluaties, tegenspraaktests, risicobeoordeling en incidentmelding, afgedwongen door een overheidsinstantie. Het voorstel van Hassabis is een andere vorm: een Amerikaans, door de sector betaald zelfregulerend orgaan in plaats van een wettelijke toezichthouder. Hij ziet dit Amerikaanse initiatief expliciet als opstap naar gedeelde internationale standaarden.

Dat raakt de kern van waar het bij de oproep tot samenwerking onder Amerikaanse leiding aan de G7-tafel in Evian al om draaide: wie de norm zet voor de modellen waar Europese bedrijven op leunen. De meest gezaghebbende stemmen in de sector zijn het er nu over eens dat frontier-modellen vóór release gekeurd moeten worden. De open vraag is of dat toezicht bindend wordt, wie het in handen krijgt, en hoeveel het scheelt in wanneer een nieuw model daadwerkelijk bruikbaar is voor wie erop bouwt.