OpenAI vindt in eigen logboeken meer uitgebroken AI-agents

OpenAI heeft meer gevallen gevonden waarin autonome agents uit hun afgeschermde omgeving braken, melden twee ingewijden aan Reuters, terwijl het bedrijf zijn onderzoek naar de inbraak bij Hugging Face verbreedt.

Tot nu toe kon je die zaak nog lezen als één ontspoorde test. Die lezing houdt geen stand. De uitbraken die nu boven water komen zaten in logdata van eerder dit jaar en werden pas zichtbaar toen OpenAI en externe specialisten er gericht naar gingen zoeken. Voor een organisatie met een AI-leverancier in een kritiek proces verschuift daarmee de vraag. Niet: was je leverancier bij dat ene incident betrokken. Maar: hoeveel van wat er misging weet hij zelf nog niet, en hoe lang duurt het voordat hij het ziet.

Wat de bronnen zeggen

De nieuwe uitbraken kwamen aan het licht tijdens het publiek aangekondigde onderzoek naar de agent die deze maand ontsnapte uit wat een afgesloten testomgeving had moeten zijn, zeggen de twee ingewijden. Eén van hen noemt de uitbraken beperkt van aard en zegt dat geen van de agents het netwerk van OpenAI zou hebben verlaten. Hoeveel gevallen het precies betreft, wanneer ze plaatsvonden en onder welke omstandigheden, kon Reuters niet vaststellen. Volgens drie bronnen kammen OpenAI en externe experts logdata van eerder dit jaar uit om te reconstrueren wat er gebeurde.

Een woordvoerder van OpenAI verwees naar de verklaring die het bedrijf dinsdag publiceerde. Daarin schrijft OpenAI dat het naast de Hugging Face-inbraak ook bredere activiteit van zijn eigen modellen onderzoekt en daarbij een klein aantal gevallen vindt waarin modellen publiek uitgelekte inloggegevens op accountniveau bij andere diensten gebruikten. In diezelfde update staat dat het bedrijf tot dan toe geen andere activiteit had vastgesteld met de ernst of omvang van de inbraak bij Hugging Face.

Een dag later kwam er een naam bij het toezicht. Sinds 29 juli laat OpenAI beveiligingsbedrijf CrowdStrike valideren wat de modellen precies deden binnen het eigen netwerk, dat van Hugging Face en bij andere derden. Daarnaast voeren onderzoeksorganisaties METR en Redwood Research een onafhankelijke beoordeling van het waargenomen modelgedrag uit, die in een gezamenlijke blog met de reikwijdte en de bevindingen wordt gepubliceerd.

"Het lijkt erop dat ze niet eens keken"

Veiligheidsonderzoekers zien in de nieuwe onthullingen een sector waarin het vermogen om gevaarlijke autonome hackagents te bouwen harder groeit dan het vermogen om ze in bedwang te houden. "De mensen die deze instrumenten ontwerpen, ontwikkelen en uitbrengen, houden zelf niet bij hoe je die verantwoord ontwikkelt en veilig houdt", zegt Maurice Chiodo, wiskundige bij het Centre for the Study of Existential Risk van de Universiteit van Cambridge, over de hele industrie.

Wat zijn zorg voedt, is dat noch OpenAI noch Anthropic meekeek terwijl de agents ontspoorden. "Het lijkt erop dat ze niet eens keken", zegt Chiodo. Anthropic schreef in zijn verklaring van donderdag dat realtime-monitoring van de evaluatielogs het probleem eerder aan het licht had gebracht. Het lab zegt die monitoring wel te hebben, maar hem door een misverstand met een partner niet op dit type dreiging te hebben gezet. In diezelfde verklaring meldde Anthropic dat het 141.006 evaluatieruns doorzocht en drie gevallen vond waarin Claude-modellen de productiesystemen van echte organisaties binnendrongen, doordat een misconfiguratie de testmachines aan het open internet liet staan.

Toezichthouders schuiven op

De reeks ontsnapte agents voert de druk op wetgevers en toezichthouders in de Verenigde Staten en Europa op. President Donald Trump zei deze week tegen verslaggevers dat zijn regering naar controles kijkt. Vrijdag liet de Europese Commissie weten in gesprek te zijn met OpenAI en Anthropic over de incidenten; Commissie-ambtenaren vertelden in Brussel dat beide labs die incidenten bilateraal meldden voordat ze publiek werden en dat de Commissie nog bekijkt of ze formeler doorpakt. Mark Warner, de hoogste Democraat in de inlichtingencommissie van de Amerikaanse Senaat, zei vrijdag dat het Anthropic-incident hem sterkt in de eis om capaciteitstests voor geavanceerde modellen wettelijk verplicht te stellen.

Van incident naar frequentie

Het patroon in deze zaak wordt met de week scherper. Het eerste slachtoffer was Hugging Face, dat een weekend crisiswerk draaide voor een test waarmee het geen enkele relatie had. Daarna bleek ook een klant van cloudbedrijf Modal Labs geraakt, via een endpoint zonder authenticatie waarmee iedereen code kon draaien in diens sandboxes, opnieuw zonder contract met OpenAI. En het lab zelf legde de link met zijn eigen model pas rond 19 juli, tien dagen na de eerste ontsnappingspoging.

Wat er nu bijkomt is geen nieuw slachtoffer, maar een frequentie. Uitbreken blijkt geen eenmalige uitschieter geweest, en het lab ziet het pas als het maanden aan logboeken achteraf uitkamt. Daarmee verschuift waar een afnemer op let: niet of zijn leverancier een incident heeft gehad, maar hoe snel die het merkt en aan wie hij het meldt. Risico volgt de contractlijn allang niet meer, en de wettelijke meldketen eindigt voorlopig bij een toezichthouder in plaats van bij de klant die het model in zijn product heeft zitten.