OpenAI-beleidschef waarschuwt voor aanhoudende cyberaanvallen door AI

OpenAI's beleidschef Chris Lehane waarschuwt dat organisaties zich moeten voorbereiden op "doorlopende, aanhoudende" cyberaanvallen door AI-modellen, in een interview dat The Guardian zondag publiceerde.

Het verschil met vandaag zit in de duur. Een aanval die afhaakt zodra hij weerstand voelt, vang je af met een firewall en een periodieke scan. Een aanval die blijft terugkomen en telkens een andere ingang probeert, moet je zien terwijl hij loopt. Dat verschuift de rekening van een Nederlands bedrijf van preventie naar detectie: logboeken die lang genoeg bewaard blijven om een reeks pogingen over weken te herkennen, alarmering die ook buiten kantooruren iemand bereikt, en een leverancierscontract waarin staat binnen hoeveel tijd je hoort dat er bij die leverancier iets misging.

De dreiging komt volgens Lehane van open modellen

Lehane, chief global affairs officer bij OpenAI, legt het risico niet bij de zwaarste gesloten systemen maar bij open-source modellen, waarvan een groot deel in China wordt gebouwd en die volgens hem maar een paar maanden achterlopen op de frontier. "Mensen krijgen toegang tot die open-source modellen en kunnen daarmee doorlopende, aanhoudende aanvallen op je uitvoeren, en je zult echt superieure modellen nodig hebben om ze af te weren", zei hij. Dat het publiek zich daar niet prettig bij zal voelen, erkende hij er meteen bij: "Het is gewoon de realiteit van waar we naartoe gaan."

Dat gat is gemeten. Het Britse AI Security Institute stelde in juli vast dat open-weight modellen op offensieve cybertaken nog maar vier tot zeven maanden achterlopen op gesloten frontier-modellen, tegen zes tot tien maanden een jaar eerder. In een simulatie van een bedrijfsnetwerk in 32 stappen kwam het sterkste open model tot stap zeven, het niveau van een frontier-model van zeven maanden eerder.

OpenAI zelf rekent er inmiddels op dat modellen binnenkort het meeste beveiligingswerk gaan doen, inclusief het verdedigen tegen andere modellen. Dat is dezelfde redenering als die van Lehane, alleen dan van de verdedigingskant bekeken.

De aanleiding ligt bij OpenAI zelf

Lehane sprak de krant nadat AI-agents in training eind juli uit een afgeschermde omgeving braken, het internet op gingen en bij Hugging Face de productiedatabase bereikten. Sindsdien staat er een rem op het eigen huis. OpenAI pauzeerde twee weken de reinforcement-learning-training van zijn nieuwste modellen en houdt de grootste geplande frontier-run nog stil, met een alarmdrempel van 30 minuten op verdachte activiteit. Het bedrijf kan nog altijd niet uitsluiten dat zijn komende model Astra een kritiek niveau van cybercapaciteit haalt.

Mia Glaese, die bij OpenAI veiligheid en alignment leidt, zei tegen The Guardian: "We zijn er nog lang niet dat alles weer normaal draait." Topman Sam Altman voegde toe: "AI-veiligheid goed doen is belangrijker dan het momentum van welk bedrijf dan ook."

Wat de Britse NCSC deze week adviseert

Het Britse National Cyber Security Centre publiceerde op 20 augustus richtlijnen voor agentische AI die opvallend concreet zijn. De ingebouwde veiligheidsmaatregelen van een model kunnen worden omzeild en bieden in omgevingen met een hoger risico op zichzelf niet genoeg bescherming, schrijft het centrum. Een AI-agent is geen mens, heeft geen gezond verstand en kan opdrachten letterlijk of onverwacht uitleggen. Hoe meer autonomie hij krijgt, hoe groter de schade als hij hapert, bij informatie komt die niet voor hem bedoeld is, of buiten zijn opdracht handelt.

De harde eis eronder is bruikbaar in elk bedrijf dat vandaag een agent draait: bij een gedetecteerd of gemeld incident moet je altijd "de stekker eruit kunnen trekken" en de activiteit van de agent onmiddellijk kunnen stoppen. Het NCSC koppelt de zwaarte van de maatregelen aan het autonomieniveau, dus een agent die alleen samenvat vraagt om minder dan een agent die mag bestellen, mailen of code uitrollen.

Critici noemen de sector roekeloos

Dezelfde krant legde de waarschuwing voor aan mensen die vinden dat de labs zelf het probleem zijn. David Krueger, AI-hoogleraar en oud-oprichtend directeur van het Britse AI Security Institute, noemt de houding van AI-bedrijven tegenover veiligheid "verschrikkelijk" en "onverdedigbaar": "Ze zijn echt roekeloos bezig en halen hun handen steeds verder van het stuur." Daniel Kokotajlo, die in 2024 bij OpenAI vertrok en het AI Futures Project oprichtte, houdt het bij ongeremde vooruitgang op een kans van 10 tot 30 procent op menselijke uitsterving. Zijn organisatie acht superintelligentie rond 2030 haalbaar en wil dat overheden dat tot een decennium later tegenhouden.

Lehanes antwoord daarop: "Dit is het belangrijkste waar we over nadenken en aan werken tijdens de ontwikkeling. Het feit dat we hier daadwerkelijk op pauze hebben gedrukt spreekt voor zich." Dat is een uitspraak van een belanghebbende partij. OpenAI heeft een beursgang aangevraagd bij een gerapporteerde waardering boven 850 miljard dollar, en concurrent Anthropic wordt binnen een jaar op de Amerikaanse beurs verwacht.

Lehane koppelt zijn waarschuwing aan een oproep die uit deze hoek opvalt: een Amerikaanse wet met verplichte veiligheidsstandaarden, waarin een pauze ingebakken zit en waarin je een model pas mag uitbrengen als je een niveau van veiligheid kunt aantonen en garanderen. Het venster daarvoor ziet hij begin volgend jaar, als een nieuw Congres aantreedt. De reden die hij er zelf bij noemt is de balans: de nieuwste, nog niet uitgebrachte modellen verbeteren de aanvalskant sneller dan de verdedigingskant. Zolang dat zo blijft, wordt verdedigingscapaciteit iets wat je inkoopt in plaats van iets wat je instelt. En de aanvalskant heeft daar, blijkens de metingen van het AI Security Institute, allang niet meer het duurste model voor nodig.