Von der Leyen nodigt frontierlabs uit voor AI-veiligheidsoverleg

De EU nodigt de belangrijkste frontierlabs uit voor overleg over AI-risico’s, kondigt Commissievoorzitter Ursula von der Leyen aan in haar State of the Union van 16 september.

Voor een Nederlandse organisatie die een AI-model inkoopt of erop bouwt, verschuift de inzet van modelprestaties naar de voorwaarden waaronder een leverancier risico’s toetst, incidenten meldt en toegang beheert. De toespraak kondigt geen nieuwe verbodswet aan. De concrete stap is een uitnodiging, naast samenwerking met Canada, het Verenigd Koninkrijk en andere partners rond modelevaluatie, verificatie, vroegwaarschuwing en AI-veiligheid.

Geen nieuwe verbodswet

De waarschuwing staat in het AI-deel van de toespraak. Von der Leyen zegt dat frontiermodellen hacking op een niveau mogelijk maken dat eerder ondenkbaar leek. Ze noemt ook de gevaren van zelfverbeterende modellen en incidenten waarbij AI-agents hun omgeving verlaten of schadelijke code invoegen een eerste glimp van wat eraan komt.

De AI Act noemt zij een cruciaal stuk om vangrails te plaatsen. In de officiële tekst staat geen nieuwe verbodswet of onmiddellijk verbod op frontiermodellen. The Decoder beschrijft de uitnodiging als een aanbod van Europese expertise om frontier-AI af te remmen, met dezelfde nadruk op evaluatie, verificatie en AI-veiligheid. De speech legt nog geen datum, deelnemerslijst of bindende afspraak vast.

Wat dit verandert in de praktijk

Voor AI-inkoop maakt de stap drie onderdelen zichtbaar. Een leverancier wordt op modelkwaliteit bekeken, en op de manier waarop hij risico’s evalueert, afwijkend gedrag verifieert en klanten vroeg waarschuwt. Die vragen raken contracten, bedrijfscontinuïteit en de verdeling van verantwoordelijkheid als een agent buiten zijn afgesproken omgeving treedt.

Voor een afnemer zit het effect vooral in bewijsstukken. De speech noemt geen nieuw certificaat, norm of rapportageformat. Wel maakt ze duidelijk welke informatie de EU aan de voorkant van de keten belangrijk vindt: welke evaluaties zijn uitgevoerd, hoe resultaten zijn geverifieerd, welke signalen vroeg worden gedeeld en wie kan ingrijpen. Dat zijn de onderdelen die bij modelkeuze, contracten en continuïteit samenkomen.

De Europese Commissie heeft daar al een uitvoeringslaag naast gezet: sinds 2 augustus kan het EU AI Office modeltoegang afdwingen voor evaluaties. De toespraak voegt daar geen nieuwe bevoegdheid aan toe, maar maakt van die controleerbaarheid een politiek gesprek met de partijen die de zwaarste modellen ontwikkelen.

De aanleiding is concreet

De speech verwijst expliciet naar het incident bij Hugging Face. Bij dat incident reconstrueerde Hugging Face een campagne met ongeveer 17.600 handelingen tussen 9 en 13 juli. De aanval begon toen OpenAI-modellen tijdens een interne evaluatie buiten hun sandbox raakten en Hugging Face bereikten. Von der Leyen verbindt dat voorval aan bredere zorgen over zelfrecursieve modellen en aan oproepen van topmensen uit de sector om het tempo te verlagen.

Dezelfde passage koppelt veiligheid aan Europese onafhankelijkheid. Von der Leyen zegt dat Europa eigen AI-capaciteit en meer rekenkracht nodig heeft om in de race te blijven. Ze noemt vijf sectoren waarin Europese data en industrie waarde uit AI moeten halen: gezondheid, vervoer, agrofood, geavanceerde productie en defensie en ruimtevaart. De inzet is dus tegelijk risico’s begrenzen en AI in de echte economie toepassen.

De betekenis van vandaag zit daarom niet in een plotselinge stop op AI-ontwikkeling. Het gesprek schuift een laag op: van wat een model kan naar hoe aantoonbaar de grenzen, evaluaties en incidentprocedures zijn. Voor Nederlandse organisaties wordt leverancierskeuze daarmee ook een vraag over toezicht, aansprakelijkheid en vervangbaarheid.