Nederland tekent Paris Call voor AI-veiligheid

Nederland ondertekent op 9 november met OpenAI en Anthropic de Paris Call voor AI-veiligheid; frontier-AI-ontwikkelaars beloven evaluaties en noodstops voor modelactiviteiten onder hun beheer, meldt het Élysée.

Bij AI-inkoop komt daardoor een concrete vraag op tafel: welke tests zijn gedaan, wie mag ze beoordelen en wat gebeurt er als een model moet stoppen? De verklaring zet die onderwerpen op de internationale agenda, maar voegt zelf geen Nederlandse wettelijke plicht toe en noemt geen rechtstreeks auditrecht voor klanten. Het blijft een politieke toezegging; The Decoder constateert dat er geen bindend toezichtssysteem, deadlines of sancties zijn afgesproken.

De actuele lijst telt acht landen

De Élysée-lijst noemt naast Nederland Bahrein, Canada, Finland, Frankrijk, Kenia, Cyprus en Noorwegen. De tien bedrijven zijn Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI en Synthesia. Ook zeven maatschappelijke organisaties tekenen. De lijst blijft open voor nieuwe steunbetuigingen en wordt bijgewerkt.

De telling verschilt per versie. The Globe and Mail noemt zes landen in zijn bericht over de ondertekening, terwijl de actuele Élysée-lijst er acht telt. De lijst is dus een momentopname, geen gesloten ledenregister. Voor Nederlandse organisaties staat wel vast dat hun regering op de actuele Franse lijst voorkomt.

Evaluaties moeten vergelijkbaar worden

De eerste toezegging is een gedeeld kader voor evaluatie en risicobeheer van frontier-modellen. De ondertekenaars willen daarvoor technische standaarden, hulpmiddelen en methoden ontwikkelen die kunnen meegroeien met nieuwe modelcapaciteiten. De verklaring noemt misbruik in cyberveiligheid en in chemische, biologische, radiologische en nucleaire domeinen. Ook noemt zij risico’s door toenemende autonomie, misalignment, waarbij het model niet doet wat ontwikkelaars bedoelen, en verlies van controle.

De landen en labs willen niet-gevoelige evaluatieresultaten in een vaste vorm publiceren en een openbaar gedeeld archief opzetten. Dat kan red-teamprotocollen, benchmarks, risicoanalyses en stresstests bevatten. Het bestaande NAAIMES-netwerk kan landen helpen meetmethoden en resultaten beter te vergelijken. De verklaring noemt geen startdatum voor het archief of verplichte rapportage per modelversie. De tweede toezegging gaat over verantwoordelijkheid. Deelnemers verbinden zich aan erkende veiligheidsstandaarden tijdens de hele modellevenscyclus, onder toezicht van nationale autoriteiten en met onafhankelijke beoordeling.

Dat verschil is relevant naast een eerdere Nederlandse oproep. In september vroeg de regering om verplichte tests vóór ingebruikname en voldoende toegang voor onafhankelijke beoordelaars. De Paris Call formuleert de steun van ontwikkelaars aan onafhankelijke evaluatie voorzichtiger: waar dat passend is bij het risico en aansluit op bestaande afspraken. Daardoor staat nog niet vast welke tests een inkoper mag inzien of hoe een evaluator toegang krijgt.

De derde toezegging gaat over incidenten: de ondertekenaars willen snelle alarmroutes, gedeelde classificaties en tijdige informatie over ernstige cyberincidenten en incidenten waarbij AI-systemen buiten controle raken. De verklaring laat nog open of daarvoor een aparte samenwerkingsstructuur nodig is. Overheden beloven vertrouwelijke meldkanalen voor klokkenluiders. Ook zeggen beleidsmakers dat zij juridische kaders voor verantwoordelijkheid bij grootschalige schade moeten verduidelijken, inclusief grensoverschrijdende schade.

De stopbelofte geldt binnen eigen beheer

De ontwikkelaars beloven veiligheidsmechanismen waarmee ze modelactiviteiten kunnen beperken, pauzeren of stilleggen, voor zover die activiteiten onder hun controle vallen. Dat geldt volgens de tekst ook tijdens training en intern gebruik. Labs zeggen verder dat ze modelcapaciteiten, beperkingen en bekende risico’s bekendmaken, nieuwe modelmogelijkheden continu volgen en interne aanvallen laten uitvoeren om zwakke plekken te vinden. Ze erkennen ook dat beschermingsmaatregelen uit open-weight-modellen kunnen worden verwijderd of omzeild, terwijl open ontwikkeling voordelen voor onderzoek, innovatie en veiligheid kan hebben.

De woorden “binnen hun controle” begrenzen de afspraak. Dat zegt niets over een eigen noodstop voor klanten; de verklaring garandeert die niet en legt geen uitvoertijd vast. MLQ.ai benoemt het ontbreken van een technische norm of vaste tijdslimiet. Steun aan onafhankelijke evaluatie blijft afhankelijk van wat passend is bij het risico en bestaande afspraken.

Voor de inkoop worden de toetsvragen concreter: welke risico’s zijn per modelversie getest, welke resultaten blijven openbaar of vertrouwelijk, en kreeg een onafhankelijke beoordelaar toegang tot de testopzet? Bij de noodstop tellen de reikwijdte en bevoegdheid: welke handeling kan de leverancier beperken of stoppen, wie besluit dat en hoe horen klanten van een incident? Dit zijn controlepunten voor contract en continuïteit, geen rechten die de Paris Call zelf verleent.

Van oproep naar politieke toezegging

In september vroegen onderzoekers van OpenAI en Anthropic publiek om de ontwikkeling van frontier-AI af te remmen. Enkele weken later beloofden Sam Altman en Dario Amodei bij de VN-Veiligheidsraad dat hun bedrijven zo nodig zouden vertragen. Die briefing leverde geen gedeelde tests, meldtermijn of bindend akkoord op. De Paris Call brengt nu regeringen en labs samen onder één tekst met evaluaties, informatie-uitwisseling en noodstoppen als gezamenlijke onderwerpen.

De verklaring noemt de Frontier Safety Commitments van de Seoul AI Summit als voorgeschiedenis. Op 10 november kondigde Australië verplichte veiligheids- en beveiligingseisen aan voor alle frontier-AI-bedrijven die daar actief willen zijn. Een nieuwe toezichthouder zou naleving controleren en boetes kunnen opleggen. Australië wil frontier-AI-bedrijven aan zes veiligheids- en beveiligingsplichten binden; de regering zegt dat de eisen via AI-standaardenwetgeving gaan gelden.

De eerstvolgende concrete toets is of het beloofde rapportformat, de onafhankelijke evaluaties en incidentmeldroutes verschijnen. Ook moet duidelijk worden welke resultaten publiek vergelijkbaar zijn en welke risico-informatie vertrouwelijk blijft. Tot die uitwerking er is, laat de ondertekening zien dat labs en overheden de veiligheidsvraag gezamenlijk op tafel leggen. De uitvoerbare controle voor afnemers ontstaat pas in de documenten en procedures die nog moeten volgen.