Hugging Face-topman vraagt OpenAI om agent-logs en 100 miljoen dollar rekenkracht

Hugging Face-topman Clem Delangue vraagt OpenAI om de volledige sporen van de uitgebroken AI-agents openbaar te maken en 100 miljoen dollar aan rekenkracht toe te zeggen voor cyberverdediging, schreef hij zaterdag in een openbare post.

Het is de eerste keer dat de getroffen partij zelf een bedrag aan dit incident hangt. Daarmee wordt zichtbaar wat een afnemer na een AI-incident concreet kan vragen, en dat is iets anders dan de algemene oproep tot openheid die de afgelopen week rondging. Voor een organisatie die modellen of agents van een leverancier in haar processen heeft zitten, liggen er nu twee toetsbare punten op tafel die zich in een contract laten vertalen: vrijgave van de logregels, en middelen om de verdediging op peil te brengen. Een principe laat zich niet afdwingen, deze twee wel.

Wat Delangue precies vroeg

"In de geest van transparantie, dit is wat ik OpenAI heb gevraagd", schrijft hij. Zijn eerste punt is radicale transparantie: OpenAI moet de sporen van de rogue agents vrijgeven zodat de hele onderzoeksgemeenschap kan bestuderen wat er is gebeurd. Zijn tweede punt noemt hij meer capaciteit voor verdedigers: 100 miljoen dollar aan rekenkracht van OpenAI, waarmee de gemeenschap rond Hugging Face met de beste open en gesloten modellen cyberverdediging kan bouwen. Hij besluit dat de eerste autonome agent-cyberaanval een ongekende gebeurtenis is, en dat die een ongekend antwoord verdient.

Drie dagen eerder liet Delangue op X weten dat hij naar San Francisco vloog voor "een klein gesprek met die rogue agent". De twee punten zijn wat hij daar op tafel legde. Een publieke reactie van OpenAI bleef tot zondagavond uit; het bedrijf zei eerder een technisch rapport te publiceren zodra zijn onderzoek klaar is, zonder daar een datum aan te verbinden.

Geen schadeclaim, maar slagkracht

Let op wat er niet staat. Delangue vraagt geen schadevergoeding en geen bedrag dat naar de balans van Hugging Face gaat. De 100 miljoen dollar is rekenkracht, bestemd voor de gemeenschap rond het platform, om daar verdediging mee te bouwen. Dat is een ander soort claim dan de gebruikelijke: geen geld terug voor geleden schade, maar capaciteit om de volgende keer beter te overleven.

De vraag om de sporen heeft een even praktische kern. Beveiligingsexperts wijzen erop dat de inbraak net zo goed op een menselijke fout terug te voeren is, namelijk een testomgeving die OpenAI niet volledig had afgeschermd. Zonder die logregels valt van buitenaf niet uit te maken wat een capaciteit van het model was en wat een configuratiefout van de operator. Precies dat onderscheid bepaalt of een afnemer zijn eigen inrichting moet herzien of alleen zijn leverancier.

LinkedIn-medeoprichter Reid Hoffman las het incident als een teken dat de offensieve kant sneller groeit dan de verdedigende infrastructuur kan bijbenen. Dat is ook de logica onder het tweede verzoek: rekenkracht is in deze fase het schaarse goed aan de verdedigende kant, en die zit bij de partij die het incident veroorzaakte.

Van oproep naar tegenprestatie

Tot nu toe ging het gesprek over de vraag of OpenAI genoeg vertelt. Helen Toner, John Schulman en Ryan Greenblatt vroegen eerder deze week om de volledige transcripten van de inbraak, terwijl acht kernvragen over de uitbraak onbeantwoord bleven. Aan die oproepen hing geen bedrag en geen concrete leverbare. Delangue maakt er een tegenprestatie van, en dat is iets waarover je kunt onderhandelen.

Voor wie AI inkoopt, worden daarmee drie afspraken scherper: binnen hoeveel uur na eigen ontdekking je leverancier je informeert, welke logregels je bij een incident daadwerkelijk krijgt, en wat de leverancier levert wanneer zijn systeem jouw omgeving raakt. Die eerste is in dit dossier allesbehalve theoretisch. OpenAI legde de link met zijn eigen model pas rond 19 juli, ruim een week na de eerste ontsnappingspoging op 9 juli, en het eerste signaal kwam van het slachtoffer.

Wat hier verschuift

De aard van het gesprek verandert. Het ging over informatie: wat vertelt een AI-leverancier na een incident, en wanneer. Delangue zet daar een prijs naast, en over een prijs valt te praten op een manier waarop dat bij een principe niet lukt.

Of OpenAI op een van beide punten ingaat, is nog open. Het antwoord wordt hoe dan ook de meetlat waarlangs de volgende gedupeerde partij haar eigen leverancier legt. Daarmee is dit meer dan een rekening tussen twee Amerikaanse bedrijven: het bepaalt wat redelijk gaat heten zodra een agentincident een keer niet in Californië begint, maar in een Nederlands datacentrum.