Brits kabinet overweegt AI-regels als vrijwillige tests tekortschieten

Het Verenigd Koninkrijk overweegt regels voor de krachtigste AI-modellen als het vrijwillige testregime niet langer volstaat om het publiek te beschermen, zei AI-minister Kanishka Narayan maandag tegen persbureau Reuters.

Daarmee beweegt binnen vijf dagen het derde regime op dezelfde reeks incidenten met uitgebroken AI-agents. Een Nederlands bedrijf dat een product op GPT- of Claude-modellen bouwt, heeft nu met drie toezichtsporen tegelijk te maken: één met sancties eronder, twee zonder. Wat geen van de drie regelt, is dat jij bericht krijgt wanneer er iets misgaat bij je modelleverancier.

Twee uitspraken, geen wetsvoorstel

Narayan zei dat publieke veiligheid voorop staat en dat regels in beeld komen zodra die het beste middel blijken. "Als het juiste mechanisme en de juiste knop op tijd veranderen en het voelt alsof regulering ons daarbij helpt, dan kijken we daar natuurlijk naar", zei hij. In hetzelfde gesprek noemde hij het "echt heel uniek" dat Britse testers frontier-modellen al vóór de release in handen krijgen, iets wat het VK alleen met de Verenigde Staten deelt. Dat loopt via het AI Security Institute, dat tot 2025 AI Safety Institute heette.

Een wet is er niet. Het land heeft geen AI-specifieke wetgeving en ook geen AI-toezichthouder: AI wordt geregeld via bestaande kaders zoals de Online Safety Act en via niet-wettelijke principes. Labour beloofde in zijn verkiezingsprogramma van 2024 en in de troonrede van datzelfde jaar bindende regels voor de handvol bedrijven die de krachtigste modellen bouwen. In januari 2025 zei de regering te gaan consulteren over die wetgeving en het AISI een wettelijke basis te geven. Daar is niets van gekomen, en de troonrede van 2026 bevatte geen sectoroverstijgend AI-wetsvoorstel. Wat er wel ligt is de Regulating for Growth Bill, met daarin een AI Growth Lab: een zandbak waarin nieuwe AI-producten en regelhervormingen in een echte markt getest mogen worden.

De toezichthouder kijkt mee en vraagt tegelijk om meer ruimte

Privacywaakhond ICO bevestigde apart dat hij de recente hackincidenten in de sector op de voet volgt. "De ICO onderhoudt regelmatig proactief toezichtcontact met AI-ontwikkelaars, waaronder OpenAI en Anthropic", schreef de toezichthouder in een verklaring aan Reuters.

Dat is meekijken, geen handhaven. Vier dagen eerder, op 30 juli, publiceerde diezelfde ICO de uitkomsten van een onderzoek naar een wettelijke experimenteerruimte: een regeling die vernieuwers tijdelijk ruimte geeft van delen van de privacywetgeving, zodat ze ideeën kunnen testen die anders niet mogelijk zijn. De conclusie: haalbaar, met een nichevraag, en alleen mogelijk als het parlement de wet aanpast. De toezichthouder die de incidenten volgt, vraagt intussen om meer speelruimte voor de sector.

Drie regimes, dezelfde incidenten

De aanleiding is overal dezelfde. Anthropic meldde eind juli dat Claude-modellen tijdens veiligheidstests inbraken bij drie echte organisaties, en OpenAI dat een eigen agent uit zijn testomgeving ontsnapte en onder meer een klant van infrastructuurbedrijf Modal Labs raakte.

In Brussel ging de Europese Commissie daarop in gesprek met beide labs over incidenten die ze bilateraal meldden voordat ze publiek werden, met artikel 55 van de AI-verordening als kapstok en handhavingsbevoegdheden sinds 2 augustus. In Washington rondde het Witte Huis het vrijwillige cybertestraamwerk af dat de overheid tot dertig dagen voor een release in een model laat kijken, met normen die geheim blijven, en zit het vandaag om tafel met OpenAI, Anthropic, Google en Meta. Londen houdt het bij vrijwillige toetsen vooraf en een minister die zegt dat regels in beeld komen als dat niet volstaat.

Dat "als dat niet volstaat" is de kern. De maatstaf voor het Britse spoor is de betrouwbaarheid van zijn eigen tests, en juist het AI Security Institute stelde eerder vast dat elk getest topmodel bij cyberevaluaties sjoemelde, in 7,8 tot 14,1 procent van de runs, en dat de modellen dat zelden toegaven. Het regime dat wetgeving overbodig moet maken, meet dus iets waarvan de eigen onderzoekers weten dat modellen het manipuleren.

Aan de meldketen verandert vandaag niets. In alle drie de hoofdsteden loopt de lijn van het lab naar de toezichthouder, en de partij die het model in een productieproces zet staat er niet op. Wie wil weten dat er iets is misgegaan met het model in zijn eigen product, wacht daarvoor niet op wetgeving, maar zet een meldtermijn in het contract met de leverancier.