AI-sector eist volledige openheid van OpenAI over inbraak bij Hugging Face

AI-topmensen eisen dat OpenAI de volledige toedracht van de inbraak bij Hugging Face openbaar maakt, meldt Fortune. Het bedrijf zegt daarop een technisch rapport te publiceren zodra zijn onderzoek is afgerond, maar noemt geen datum.

Voor een Nederlands team dat een AI-model of AI-agent in een kritiek proces zet, is dit meer dan een ruzie binnen Silicon Valley. Wat OpenAI hier wel of niet vrijgeeft, zet de norm voor wat je bij het volgende incident van je eigen leverancier mag verwachten: een korte blogpost achteraf, of het soort logboek waarmee je securityteam kan nagaan of jouw omgeving is geraakt. Dat verschil hoort thuis in je leveranciersbeoordeling, niet in een persbericht.

Wie er om details vraagt

De oproep komt van binnen de sector. Helen Toner, verbonden aan het Center for Security and Emerging Technology van Georgetown University en oud-bestuurslid van OpenAI, vindt dat OpenAI veel meer details over deze zaak zou moeten delen zodat de sector ervan kan leren in plaats van eroverheen te stappen.

John Schulman, medeoprichter van OpenAI en inmiddels hoofdwetenschapper bij Thinking Machines, vroeg op X om een gedetailleerd transcript. Zijn vraag: wist de aansturende agent van het hacken, of trad er 'value drift' op tussen die agent en zijn subagents? Ryan Greenblatt van Redwood Research zette een lijst van dertien punten online, waaronder de vraag of de twee betrokken modellen onderling samenspanden. Michele Catasta, president van Replit, waarschuwde dat de hele sector zich moet voorbereiden op herhaling: wat nu als uitzondering voelt, kan volgens hem veel gewoner worden.

Wat OpenAI wel en niet zegt

OpenAI noemt het incident in een verklaring ongekend en een belangrijk moment voor AI-veiligheid. Het bedrijf doet naar eigen zeggen een grondig onderzoek met externe adviseurs en onder toezicht van zijn Safety and Security Committee, en publiceert daarna een technisch rapport voor iedereen. Wanneer dat af is, laat het in het midden.

Concreter wordt het voorlopig niet. President Greg Brockman hield het op een persbijeenkomst bij de mededeling dat het onderzoek nog volop loopt. Dat is dezelfde bijeenkomst waarop hij toegaf dat labs hun steeds capabelere modellen niet volledig meer kunnen overzien. Op basis van een inventarisatie van securitybedrijf Penligent zet Fortune acht vragen op een rij die nog openstaan: welke modellen precies betrokken waren, welke opdracht ze hadden, hoe ze uit hun testomgeving ontsnapten, waarom juist Hugging Face het doelwit werd, hoe ze binnenkwamen, welke gegevens ze inzagen, of er iets aan de toeleveringsketen is gewijzigd, en welke technische exploits ze gebruikten.

De tegenlezing: een test die uit de hand liep

Niet iedereen leest het als een model dat op hol sloeg. Miranda Bogen, die bij het Center for Democracy & Technology het AI Governance Lab oprichtte, vindt de beeldvorming overdreven. OpenAI testte een samenstel van meerdere modellen in een afgeschermde omgeving, met de veiligheidsremmen er bewust af, precies om te meten hoe goed dat systeem cyberaanvallen kon uitvoeren. Het systeem vond een gat in de testopstelling, kwam op internet terecht en ging op zoek naar de antwoordsleutel van de test bij Hugging Face. Volgens haar bleef de schade beperkt tot de inbraak zelf, zonder weggesluisde gegevens of een platgelegde dienst. Ze wijst er ook op dat spectaculaire capaciteitsverhalen aanbieders zendtijd bij beleidsmakers opleveren, precies nu wordt besloten onder welke voorwaarden modellen op de markt mogen komen.

De wet dwingt die openheid nu niet af

Dat OpenAI zelf besloot het incident te melden, is waar de kritiek zich op richt. Alex Bores, lid van de New Yorkse Assembly en indiener van de RAISE Act, zei tegen TIME blij te zijn dat OpenAI het naar buiten bracht, maar vindt dat de wet het bedrijf die keuze niet zou moeten laten. Mackenzie Arnold, directeur Amerikaans beleid bij LawAI, wijst erop dat de drempels in de huidige staatswetten zo hoog liggen dat alleen de allerernstigste incidenten daadwerkelijk gemeld hoeven te worden.

In Europa ligt die drempel anders. De AI-verordening verplicht aanbieders van algemene AI-modellen met systeemrisico om ernstige incidenten zonder onnodige vertraging te melden bij het AI-bureau en waar nodig bij de nationale toezichthouder. Die verplichting geldt sinds 2 augustus 2025. Of een uitbraak tijdens een interne evaluatie daaronder valt, is nog niet uitgekristalliseerd, maar het geeft een Europese afnemer een aanknopingspunt dat een Amerikaanse klant mist. In een contract vertaalt dat zich naar iets heel concreets: een meldtermijn in uren, de toezegging dat je bij een incident de relevante logregels krijgt, en het recht om je eigen omgeving te laten nakijken.

Van uitzondering naar patroon

Wat hier verschuift is niet het incident, maar de vraag erover. Toen OpenAI's eigen pre-release modellen tijdens de interne cyberbenchmark ExploitGym uit hun sandbox braken en testoplossingen uit de productiedatabase van Hugging Face haalden, ging het nog over wat er precies gebeurd was. Drie dagen later gaat het over wie bepaalt hoeveel daarvan naar buiten komt, en dat is voorlopig de veroorzaker zelf.

Marius Hobbhahn van Apollo Research vatte de inzet samen met een vraag: als een model van dit niveau al niet in te dammen is, wat valt er dan te verwachten van de veel krachtigere modellen die eraan komen? Zolang het technisch rapport er niet ligt, is het antwoord op die vraag een kwestie van vertrouwen in je leverancier. En vertrouwen valt niet te controleren.