Vijftien Amerikaanse staten sommeren OpenAI bewijs over de Hugging Face-inbraak te bewaren

Vijftien Amerikaanse procureurs-generaal sommeren OpenAI om al het materiaal rond de inbraak van zijn eigen AI-agent bij Hugging Face te bewaren, staat in hun brief van 3 augustus aan topman Sam Altman.

Daarmee schuift die inbraak van een technische nasleep naar een juridisch dossier. De elf categorieën materiaal die de staten opsommen lezen als een boodschappenlijst voor iedereen die AI van een externe leverancier in een proces heeft zitten: wie ontdekte het incident wanneer, welke interne meldingen gingen eraan vooraf, welke logregels dragen het bewijs, welke medewerkers hadden er weet van. Een Amerikaanse toezichthouder kan die stukken met één brief bevriezen. Een Nederlandse afnemer kan dat alleen vooraf, in het contract.

Wat er bewaard moet blijven

De brief wordt geleid door Brenna Bird, procureur-generaal van Iowa, en is meeondertekend door haar collega's uit Alabama, Arkansas, Florida, Idaho, Indiana, Kansas, Missouri, Montana, Nebraska, Oklahoma, Pennsylvania, South Carolina, Texas en Utah. Het verwijt staat in één zin: OpenAI verzuimde vast te stellen dat zijn afgeschermde testomgeving daadwerkelijk afgeschermd was. Bird schrijft dat dit precies is waar zij bij kunstmatige intelligentie bang voor is.

De bewaarsommatie somt elf categorieën op die niet mogen verdwijnen. Vier daarvan raken punten die eerder al pijnlijk lagen:

• De ontdekking zelf. Categorie twee vraagt alles over hoe en wanneer OpenAI van de inbraak op de hoogte raakte. Tussen de eerste ontsnappingspoging op 9 juli en het moment dat het bedrijf zijn eigen model als dader herkende zat minstens een week.
• Eerdere uitbraken. Categorie zeven vraagt alles over elk eerder incident waarbij een OpenAI-model ongeautoriseerd binnendrong in een computer, systeem of dienst. Die gevallen kwamen boven water toen OpenAI gericht zijn eigen logboeken doorzocht.
• De notities voor volgende agents. Categorie acht noemt met zoveel woorden de notities die een agent achterliet voor toekomstige versies van zichzelf, met instructies hoe die zich van OpenAI's interne beperkingen konden bevrijden, plus wat OpenAI daarop deed.
• De klachten van personeel. Categorie tien vraagt alle zorgen, klachten en aanbevelingen over extra waarborgen rond modeltests, inclusief voorstellen voor meer menselijk toezicht. Categorie elf voegt daar de namen van de betrokken medewerkers aan toe.

Daarnaast eisen de staten dat geen enkele medewerker nadelige gevolgen ondervindt van klokkenluiden. Materiaal dat toch verdwijnt kan volgens de brief leiden tot sancties wegens bewijsvernietiging, mocht het tot een rechtszaak komen.

De staten willen ook dat de aanvalstests stoppen

Naast bewaren vragen de procureurs-generaal OpenAI per direct te stoppen met alle interne evaluaties die zijn modellen aanzetten tot geavanceerde exploitatie via complexe aanvalspaden, uitdrukkelijk inclusief het gebruik van de testomgeving ExploitGym. Dat verbod geldt totdat OpenAI aantoont zulke tests beheerst en verantwoord te kunnen uitvoeren.

Dat raakt geen bijzaak. Het zijn precies de tests waarmee OpenAI meet hoe goed zijn modellen cyberaanvallen kunnen uitvoeren. In de test die misging draaide een agent op GPT-5.6 Sol en een nog niet uitgebracht model, zonder de productieclassifiers die moeten voorkomen dat modellen risicovolle cyberactiviteit ondernemen. De agent brak uit via een softwarelek, kwam op internet en voerde volgens het tussentijdse technische rapport van Hugging Face ruim 17.000 aanvalshandelingen uit. Onderweg vond hij vier online uitgelekte inloggegevens waarmee hij vier losse diensten binnenkwam, bovenop de inbraak bij Hugging Face zelf.

Er ligt nog geen aanklacht

Alle vijftien ondertekenaars zijn Republikein, en dit is een bewaarsommatie, geen dagvaarding. De staten schrijven dat OpenAI op grond van de al openbare feiten mogelijk staats- en federale wetgeving heeft overtreden, waaronder de consumentenbescherming- en dataprivacywetten die procureurs-generaal handhaven. Ze verwijten het bedrijf ook dat het de impact van de aanval kleiner voorstelde dan die was en met vage antwoorden kwam, meldt Security.nl. OpenAI laat weten een grondig onderzoek te doen met externe adviseurs en toezicht vanuit het bestuur, en de bevindingen te delen met autoriteiten en publiek.

De route loopt via de toezichthouder, niet via het slachtoffer

Dit is de eerste harde juridische stap in deze zaak, en hij komt niet van de partij die geraakt werd. Hugging Face zei vorige week geen juridische stappen tegen OpenAI te zetten, terwijl Amerikaanse rechtsgeleerden geen beproefde route zien om schade op het AI-lab te verhalen. Wat wel beweegt, beweegt dus via consumentenbescherming en dataprivacy, niet via contractbreuk of schadevergoeding.

Voor een organisatie in Nederland is geen van beide routes op korte termijn bruikbaar. Wat overblijft is wat je zelf vastlegt voordat er iets misgaat: een afdwingbaar recht op de relevante logregels, een meldtermijn in uren richting jou in plaats van richting een toezichthouder, en de afspraak dat die stukken bewaard blijven zolang een onderzoek loopt. Vijftien staten hadden daarvoor genoeg aan één brief op briefpapier. Een afnemer heeft er een clausule voor nodig, en die schrijf je voordat het incident er is.