Bailey vraagt om AI-tests vóór en na release

Andrew Bailey, gouverneur van de Bank of England, wil AI-modellen vóór en na release uitgebreider laten testen en incidenten beter laten melden, monitoren en opvolgen, zegt hij in een speech van 9 november.

Voor Nederlandse banken raakt dit aan de onderbouwing van AI-gebruik en het beheer van AI-leveranciers. AI-leveranciers kunnen daardoor vaker vragen krijgen over testbewijs, monitoring en incidentafhandeling. De oproep geeft richting aan toezichtsgesprekken, maar stelt geen Nederlandse verplichting, testnorm of meldtermijn vast.

De oproep bestrijkt de levenscyclus

Bailey noemt AI een mogelijke bron van productiviteitsgroei, maar verbindt die verwachting aan risico’s voor vertrouwen en financiële stabiliteit. Hij zegt dat de meest geavanceerde AI-modellen het risico op cyberaanvallen hebben verhoogd. Ook noemt hij bredere zorgen over publiek vertrouwen in AI.

Zijn concrete oproep gaat over wat er rond een modelrelease gebeurt. Bailey wil uitgebreidere tests vóór en na release. Hij vraagt ook om betere incidentmelding, monitoring en opvolging, zodat organisaties lessen uit incidenten kunnen trekken. Menselijke tussenkomst hoort bij die aanpak: volgens Bailey hangt publiek vertrouwen af van gegarandeerde menselijke interventie.

De speech noemt geen specifieke testmethode of vaste meetlat. Ook zegt Bailey niet welke organisatie de tests moet uitvoeren, hoe vaak ze moeten terugkeren of welke incidenten moeten worden gemeld. De formulering is een beleidsrichting, geen technisch protocol.

De FSB werkt de controle verder uit

Op 15 oktober publiceerde de Financial Stability Board twaalf aanbevolen praktijken voor AI-gebruik bij financiële instellingen. De FSB beschrijft onder meer risicobeoordeling, modelkeuze en beheer van AI van ontwikkeling tot inzet. Voor prestaties noemt het rapport beoordelingen, tests en doorlopende monitoring, afgestemd op de mogelijke gevolgen en het risico van een toepassing.

Het kader gaat ook over menselijk toezicht, cyberrisico’s en risico’s voor IT-systemen en leveranciers. De instellingen worden aangemoedigd de praktijken te overwegen. De FSB-praktijken verdelen verantwoordelijkheid over bestuur, risicobeheer en leverancierscontrole. Voor een bank betekent dat dat modeltests niet losstaan van de vraag wie prestaties volgt en welke informatie een leverancier beschikbaar maakt.

Bailey legt extra nadruk op melden en opvolgen nadat een model is uitgebracht. De FSB-praktijken benoemen tests en monitoring, maar laten instellingen die naar risico en toepassing inrichten. Zo vullen de twee signalen elkaar aan zonder dat een vaste test- of rapportageprocedure is vastgesteld.

De ECB zette cyberplannen op de kalender

In een brief van 7 juli vroeg de Europese Centrale Bank CEO’s van significante instellingen om uiterlijk 31 oktober een actieplan tegen AI-gerelateerde cyberdreigingen in te dienen. Het plan moest maatregelen, middelen, verantwoordelijkheden en uitvoeringstermijnen vastleggen. De ECB noemde als korte-termijnprioriteiten sneller kwetsbaarheden verhelpen, monitoring en detectie versterken en controleren of het beheer van externe ICT-leveranciers nog toereikend is.

Voor de langere termijn noemde de ECB versterking van de reactie op incidenten, crisisbeheer en herstel, met regelmatig geteste voorzieningen. De ECB benadrukt dat DORA-verplichtingen relevant blijven. DORA is de EU-verordening voor digitale weerbaarheid in de financiële sector. Dit was een gerichte toezichtsvraag aan significante instellingen, geen algemene nieuwe AI-regel voor ieder Nederlands bedrijf of elke leverancier.

Voor Nederlandse banken die onder direct ECB-toezicht vallen, laat de brief zien dat weerbaarheid tegen AI-gerelateerde cyberaanvallen al in concrete plannen en termijnen wordt vertaald. Een AI-leverancier kan daardoor vragen krijgen over hoe snel kwetsbaarheden worden verholpen, welke incidentinformatie wordt gedeeld en hoe de dienstverlening doorgaat. Baileys oproep gaat breder over AI-modellen en vertrouwen; de ECB-brief richt zich op cyberdreiging voor de digitale systemen van banken.

De waarschuwing over markten blijft voorwaardelijk

Bailey plaatst de oproep ook in een verhaal over financiële stabiliteit. Hij noemt vier manieren waarop een AI-zeepbel volgens hem kan barsten. Beleggers kunnen opbrengsten te hoog waarderen of later zien dan verwacht. Niet ieder AI-bedrijf wordt een winnaar, en verlies van publiek vertrouwen kan waarderingen raken. Tegelijk zegt Bailey dat een zeepbel herkennen onnauwkeurig is. Zijn speech stelt dus niet vast dat er al een AI-zeepbel bestaat.

De Bank of England had in juni al een marktbrede noodrem overwogen voor autonome AI-agenten in financiële markten. Sarah Breeden lichtte toe dat circuitbreakers of kill switches handel zouden kunnen begrenzen als foutieve AI-modellen een markt ontregelen. Die eerdere stap ging over gedrag tijdens gebruik. Bailey benoemt nu ook controles voor en na release en het leren van incidenten.

Samen wijzen de FSB, de ECB en Bailey in dezelfde richting: AI-risico’s volgen vanaf de testfase tot en met het dagelijkse gebruik. De FSB geeft instellingen aanbevolen praktijken, de ECB vroeg significante banken om cyberplannen en Bailey wijst op tests en incidentopvolging. Zijn speech laat open welke afwijkingen straks gemeld moeten worden, aan wie en binnen welke termijn.