Nvidia start alliantie van 37 bedrijven voor open AI-beveiliging

Nvidia richt samen met 36 andere bedrijven de Open Secure AI Alliance op, een coalitie die open beveiligingsmodellen, agent-harnassen en tooling gaat bouwen en delen, maakt de chipmaker vandaag bekend.

De inzet voor een Nederlands bedrijf zit in het scenario waar niemand aan denkt tot het zich voordoet: het moment dat je zelf onder vuur ligt. Alles wat de alliantie belooft, van verifieerbare identiteiten voor AI-agenten tot scanners die kwetsbaarheden aantonen, komt beschikbaar als open software die je op je eigen infrastructuur draait. Daarmee hangt je incidentrespons niet langer af van de vraag of de veiligheidsrem van je AI-leverancier je op dat moment doorlaat.

Wat de leden inbrengen

Een agent-harnas is de laag om een AI-model heen die bepaalt wat een agent mag: welke identiteit hij draagt, welke rechten hij krijgt, welke logs hij achterlaat en hoe zijn stappen achteraf te controleren zijn. Daar zit volgens de alliantie de echte veiligheid van een AI-systeem, niet in de vraag of de modelgewichten open of gesloten zijn. Zes bijdragen liggen er al:

• Nvidia zet NOOA op GitHub, een open agent-harnas dat het gedrag van agenten makkelijker te testen, traceren, auditen en besturen maakt.
• Hugging Face draagt Safetensors over aan de PyTorch Foundation, het opslagformaat voor modelgewichten dat garandeert dat het laden van een model geen code uitvoert.
• HPE brengt SPIFFE/SPIRE in, de zero-trust-standaard die cryptografisch vaststelt of een agent of dienst is wie hij zegt te zijn, zodat alleen geautoriseerde workloads bij bedrijfsdata komen.
• IBM en Red Hat breiden Lightwell uit, dat digitaal ondertekende patches door de open-source-toeleveringsketen duwt.
• Microsoft levert MDASH, een scanharnas dat meerdere gespecialiseerde AI-agenten laat zoeken, tegenspreken en bewijzen dat een bug echt te misbruiken is.
• SpaceXAI heeft codeeragent Grok Build opengesteld en zegt de gewichten van de Grok-modellen te willen vrijgeven.

Red Hat-CTO Chris Wright omschrijft de gedachte erachter als infrastructuur die veerkrachtig, transparant en betrouwbaar blijft door defensieve AI-tooling te combineren met bestaande reparatie vanuit de gemeenschap.

Dit is niet Akrites onder een nieuwe naam

Het verschil is makkelijk te missen, want de namen en de leden overlappen. Akrites, de coalitie die de Linux Foundation eind juni met negentien bedrijven oprichtte om lekken in kritieke open source bovenstrooms te repareren, richt zich op de software waar iedereen op draait. De Open Secure AI Alliance bouwt daar naar eigen zeggen op voort, samen met het werk van OpenSSF, maar pakt een andere laag: de verdedigingsstack rond AI zelf. Identiteit, rechten, harnassen, guardrails, logs en evaluatie.

Ook de omvang verschilt. Op de lijst van 37 oprichters staan naast Nvidia onder meer Microsoft, IBM, Red Hat, Cisco, Cloudflare, CrowdStrike, Palo Alto Networks, Palantir, SAP, Siemens, Salesforce, ServiceNow, Snowflake, Databricks, Dell, HPE, Elastic, Hugging Face, LangChain, SK Telecom, NAVER en de Linux Foundation. Elastic vat de gedeelde aanname samen: beveiliging verbetert wanneer verdedigers open kunnen samenwerken in plaats van te leunen op geïsoleerde informatie.

De aanleiding staat in de eigen ledenlijst

Nvidia noemt één incident als bewijs, en het slachtoffer is medeoprichter van de alliantie. Toen Hugging Face in juli werd binnengedrongen, blokkeerden gesloten AI-diensten de forensische analyse omdat ze aanvaller en verdediger niet uit elkaar konden houden. Het bedrijf onderzocht daarop ruim 17.000 vastgelegde acties van de aanvaller met het open model GLM 5.2 op zijn eigen infrastructuur.

Dat uitgerekend Amerikaanse topmodellen die cybertaak weigerden en een Chinees open model het werk deed, maakte de scheefheid pijnlijk zichtbaar: de aanvaller pakt een onbeperkt model, de verdediger loopt tegen een muur. De alliantie is het antwoord van de sector op dat ongemak.

Van politiek naar gereedschap

Nvidia koppelt er een oproep aan toezichthouders aan: behandel open modellen, harnassen en beveiligingstooling als defensief middel, niet als risico. Categorische beperkingen op open frontier-systemen zouden de verdedigingscapaciteit verzwakken en macht, afhankelijkheid en kwetsbaarheid concentreren bij een handvol gesloten aanbieders. Semafor plaatst dat in de actuele context: het Witte Huis weegt beperkingen op Chinese open modellen.

Die boodschap kent Washington inmiddels. Een dag eerder groeide de open-weight-brief aan de Amerikaanse overheid naar vijftig ondertekenaars, met Nvidia als gastheer van de lijst. Het verschil is dat een brief om beleid vraagt en deze alliantie code op tafel legt.

Daarmee verschuift de vraag voor wie AI inzet. Niet of open modelgewichten mogen blijven bestaan, maar of je de verdediging eromheen zelf in handen hebt op het moment dat het misgaat. Wie zijn beveiliging volledig bij één gesloten aanbieder belegt, merkt dat pas als de rem aan staat.