VK schaalt frontier-AI op voor cyberverdediging

Frontier-AI helpt het VK ruim 1.000 potentiële kwetsbaarheden in overheidssystemen op te sporen en te verhelpen; de regering schaalt de inzet na twee pilots op, meldt GOV.UK.

Bij een Nederlands securityteam met veel codebestanden verschuift het werk naar triage: meldingen moeten nog worden gecontroleerd, geprioriteerd en hersteld. De Britse cijfers tonen aantallen en tokenkosten, maar geen onafhankelijke vergelijking met handmatig scannen of gemeten tijdwinst.

Een maand codecontrole leverde 407 bevindingen op

In juni organiseerde het Government Cyber Coordination Centre wekelijkse hackathons om openbare codeopslagplaatsen van overheidsdiensten te scannen. De casestudy rapporteert 407 bevindingen bij negen organisaties in één maand, voor £13.000 aan tokens. Daaronder zaten zwaktes die konden leiden tot het omzeilen van inlogbeveiliging, datalekken en uitvoering van code op afstand. Sommige waren al bekend en met andere maatregelen afgedekt; andere waren nieuw. Alle kritieke kwetsbaarheden zijn hersteld en er was geen bewijs van misbruik.

Een kritieke vondst zat in een GitHub Actions-workflow voor een overheidsdienst. Een speciaal gevormde reactie op een open pull request kon code uitvoeren op de server achter de workflow en toegangstokens blootleggen. De casestudy zegt dat AI bevindingen over meerdere diensten met elkaar verbond, waar traditionele scanners losse signalen opleverden.

De £13.000 is de tokenrekening voor negen organisaties over een maand. De regering verdeelt die niet per dienst of model. Ook splitst de oktoberpublicatie de ruim 1.000 bevindingen van twee pilots niet per proef uit of legt zij uit hoe de 407 bevindingen uit juni zich tot dat totaal verhouden.

De teams hielden de beoordeling bij mensen

Een groep bouwde een pijplijn van zes AI-stappen: sorteren, valideren, controleren, verbanden volgen, beoordelen en samenvatten. Medewerkers controleerden elke escalatie, toetsten de blootstelling en filterden foutmeldingen. Een ander team zette Gitleaks, Trivy, Semgrep en Hadolint eerst in als vaste scanners en legde daarna drie modelstappen over de resultaten. Een derde groep maakte vijf Claude Skills om controles bij honderden diensten te herhalen.

De casestudy schrijft de resultaten vooral toe aan taakindeling en menselijke expertise. Met een goede opzet presteren ook modellen die niet helemaal aan de frontier zitten volgens de onderzoekers vergelijkbaar bij het scannen van code. Het verslag beschrijft dus vooral een werkwijze, niet een ranglijst van modellen.

De eerste ronde gebruikte openbare broncode. De Britse overheid zegt dat die vóór publicatie al uitgebreid is beoordeeld en daarom met modelaanbieders kon worden gedeeld. De tweede fase moet uitbreiden naar meer departementen, extra modellen en besloten code. De publicatie noemt geen modelversies, foutpositiefpercentage, gemiste kwetsbaarheden of voorwaarden voor verwerking bij externe aanbieders. De cijfers zeggen daarom nog niet hoeveel dezelfde aanpak oplevert in een gesloten bedrijfsomgeving.

50 naar 8 dagen hoort bij de VMS

De daling van 50 naar 8 dagen hoort niet bij de AI-pilots, maar bij de Britse Vulnerability Monitoring Service. Deze aparte voorziening scant continu 6.000 publieke organisaties met commerciële en eigen scanmiddelen. De mediane hersteltijd voor domeingerelateerde kwetsbaarheden daalde van 50 naar 8 dagen; voor andere cyberkwetsbaarheden ging die van 53 naar 32 dagen.

De klok loopt vanaf de melding aan een organisatie tot de uitgevoerde reparatie. De VMS verwerkte ongeveer 400 bevestigde kwetsbaarheden per maand. Dit zijn cijfers over een bestaande scanvoorziening, geen tijdmeting van de AI-proeven. De Britse regering noemt beide ontwikkelingen naast elkaar in haar publicatie van 12 oktober, maar alleen voor de VMS geeft zij hersteltijden.

Nederlandse pilots beginnen eerder in de keten

De AIVD, MIVD en vijf andere Nederlandse diensten waarschuwden dat ook bestaande, makkelijk toegankelijke AI-modellen cyberaanvallen kunnen versnellen. Hun oproep vraagt bestuurders om cybersecurity prioriteit te geven en experts ruimte te bieden. De waarschuwing noemt patchbeheer, logging en monitoring als basis voor weerbaarheid.

Digital Holland meldt dat twaalf organisaties met Prometheus eerst behoeften, bestaand aanbod en hiaten in kaart brengen. De Nederlandse Prometheus-pilot heeft nog geen afgeronde resultaten of direct inzetbare beveiligingsdienst opgeleverd. Dat zet de proef een stap eerder dan de Britse publicatie, die al resultaten van scans op overheidscode deelt.

Op 15 april waarschuwde het NCSC dat Anthropic’s Mythos kwetsbaarheden tot aanvalsketens kan koppelen, terwijl openbare details de impact niet volledig laten toetsen.

De volgende test is gesloten broncode

De Britse regering wil de pilots uitbreiden en tegelijk de regels en reactie op agentincidenten voorbereiden. In zijn toespraak van 12 oktober zei AI-minister Kanishka Narayan dat het VK AISI toegang tot de krachtigste modellen vóór uitgave wil behouden en dat het instituut onder meer Gemini 4 Argon test. De BBC meldt dat het VK toegang tot de nieuwste modellen voor tests vóór publieke uitgave wist te behouden.

Narayan zei dat de Cyber Security and Resilience Bill ruimte biedt om bescherming tegen AI-cyberdreigingen en verlies van menselijke controle te versterken. De regering wil met parlementariërs en technische experts uitwerken hoe ernstige incidenten en bijna-incidenten worden gemeld en hoe incidenten met agents kunnen worden ingeperkt. De uitwerking is nog in voorbereiding; de speech noemt geen nieuwe wettelijke verplichting of invoeringsdatum.

De Britse pilots maken de verdedigende inzet concreet: AI kan over veel codeopslagplaatsen verbanden aan het licht brengen, maar een mens valideert de melding en bestaande teams herstellen de fout. De aangekondigde tweede fase moet laten zien of dezelfde aanpak werkt waar broncode gesloten is en gegevensafspraken zwaarder wegen. Met bevestigde bevindingen, foutmeldingen en hersteltijd wordt duidelijker hoeveel capaciteit zo’n scan uit een beveiligingsteam vraagt.