OpenAI steunt federale AI-toetsing in FRONTIER Act

OpenAI steunt voor het eerst een federale plicht voor onafhankelijke veiligheidstoetsen van frontier-AI, zegt chief global affairs officer Chris Lehane over het tweepartijdige FRONTIER Act-voorstel, meldt Politico.

Voor Nederlandse organisaties die op modellen van zulke leveranciers bouwen, verschuift daarmee een deel van het leveranciersrisico naar aantoonbare toetsing. Als het voorstel wet wordt, kunnen veiligheidsrapporten, toegang voor beoordelaars en afspraken rond modelontwikkeling indirect meewegen in de beschikbaarheid en planning van AI-diensten.

Wat het voorstel zou verplichten

De FRONTIER Act, op 23 juli ingediend door de Republikeinse afgevaardigde Jay Obernolte en de Democratische afgevaardigde Lori Trahan, zou een nationaal kader maken voor de ontwikkeling en uitrol van de krachtigste AI-modellen. De indieners beschrijven een stelsel met modelkaarten, risicobeheer, incidentmeldingen, onafhankelijke audits en doorlopende beoordelingen.

De onafhankelijke toetsers krijgen in het voorstel de naam independent verification organizations, of IVO’s. Zij moeten een vergunning krijgen van een nieuwe onderminister van Handel voor AI-beveiliging. Een zeer grote frontier-ontwikkelaar zou zo’n organisatie moeten inhuren voor doorlopende beoordeling van zijn veiligheidskader, bestuur en werkwijze, risicomonitoring en maatregelen tegen ernstige risico’s. De officiële billtekst zou minimaal halfjaarlijkse rapportages en toegang tot de materialen, systemen en medewerkers voor de beoordeling voorschrijven.

Welke ontwikkelaars vallen eronder?

Het voorstel noemt geen bedrijven bij naam. De rekenkundige grens voor een frontier-ontwikkelaar ligt bij een frontier-model dat met meer dan 10^26 rekenbewerkingen is getraind. Voor de lichtere verplichtingen geldt de categorie large frontier developer: meer dan 50 miljoen dollar omzet én minstens 1 miljard dollar aan AI-gerelateerde ontwikkelingsuitgaven, gemeten over de voorafgaande 36 maanden.

De voorgestelde IVO-plicht geldt pas voor de categorie very large frontier developer. Daarvoor moet een ontwikkelaar samen met zijn gelieerde bedrijven meer dan 5 miljard dollar omzet hebben en minstens 10 miljard dollar aan AI-gerelateerde ontwikkelingsuitgaven in diezelfde periode. De indieners zeggen dat dit een handvol van de grootste ontwikkelaars raakt, niet startups, kleinere ontwikkelaars of onderzoekers ver van de frontier. OpenAI is de expliciet steunende leverancier in deze berichtgeving, maar de billtekst bevestigt geen definitieve lijst met bedrijven.

Van vrijwillig overleg naar federale norm

OpenAI’s steun is specifieker dan de eerdere gesprekken over een gezamenlijk veiligheidsorgaan. In dat overleg bespraken Google, OpenAI en Anthropic een vrijwillige standaard voor frontier-modellen en tests vóór release. Die gesprekken leverden nog geen formeel orgaan of bindende afspraak op. H.R. 9925 legt nu een wettelijke route naast die vrijwillige route, al is het voorstel zelf nog geen wet.

OpenAI bereidde die stap al voor. Het bedrijf pleit sinds 9 september voor verplichte, op modelcapaciteit gebaseerde nationale AI-regels met onafhankelijke beoordelingen en zegt dat zulke eisen alleen voor een kleine groep goed gefinancierde frontier-ontwikkelaars moeten gelden. Het bedrijf koppelt de federale aanpak aan onafhankelijke tests, cybersecurity, incidentmeldingen en transparantie.

Ook in Californië schoof OpenAI de toetsing naar voren met het voorstel om modellen al tijdens training en evaluatie op ernstige incidenten te monitoren. De federale lijn maakt van die ontwikkeling een bredere regelgevingsvraag: de toets moet vastleggen welke test voldoende is, welke informatie een beoordelaar krijgt en wanneer een model verantwoord verder kan.

De leverancier wordt onderdeel van de toets

H.R. 9925 legt geen directe verplichting op aan een Nederlands bedrijf dat alleen een AI-dienst afneemt. Het voorstel richt zich op ontwikkelaars en sluit een partij uit die uitsluitend gebruiker of uitrolpartij is. De gevolgen komen dus via de leverancier: een modelaanbieder die onder de hoogste drempel valt, zou zijn veiligheidskader, incidenten en herstelmaatregelen met een gelicentieerde beoordelaar moeten delen.

Dat kan de Europese inkoop raken op drie punten. Een releaseplanning kan indirect worden beïnvloed door extra beoordeling of herstelwerk. Een leverancier kan meer veiligheidsdocumentatie beschikbaar moeten maken. En een klant kan beter moeten weten welk deel van die documentatie openbaar, vertrouwelijk of helemaal niet beschikbaar is.

De verschuiving zit daarom niet in een nieuwe Amerikaanse regel voor elke Nederlandse AI-gebruiker. Ze zit in de aanbodkant: onafhankelijke toetsing wordt een mogelijke voorwaarde achter het model dat je inkoopt. Als die lijn doorzet, wordt modelkeuze ook een keuze voor de teststandaard, de toegang tot bewijs en de leveringszekerheid achter de AI-dienst.