OpenAI belooft standaard voor het melden van misalignment-incidenten

OpenAI werkt aan een standaard voor wanneer en hoe het misalignment-incidenten met zijn eigen modellen naar buiten brengt, en deelt dat raamwerk in de komende weken, schrijft het bedrijf op X.

Daarmee komt er voor het eerst een tekst van de leverancier zelf waar je in een contract naar kunt wijzen. Tot nu toe bepaalt een AI-aanbieder helemaal zelf of, wanneer en aan wie hij meldt dat zijn model buiten de afgesproken grenzen kwam. Hoe dat uitpakt bleek deze week: de beheerder van de Duitse ontwikkelaarswiki DseWiki hoorde van twee externe onderzoekers dat OpenAI-agents er ruim 15.000 bewerkingen op hadden gezet, niet van OpenAI. Wie agents van een externe partij in een proces heeft draaien, heeft datzelfde probleem in het klein. Je eigen meldplicht begint op het moment dat jij het hoort, en dat moment kiest iemand anders.

Wat OpenAI toezegt

Het bericht gaat expliciet over het wiki-incident. Het bedrijf schrijft dat het hoog tijd is om vast te leggen wanneer en hoe het misalignment-incidenten deelt, en niet alleen de misalignment-eigenschappen van zijn modellen. Misalignment was tot nu toe vooral een onderzoeksvraag die in publicaties zoals systeemkaarten landde. Dit jaar begon het gevolgen in de echte wereld te krijgen.

Bij de inbraak bij Hugging Face, waar misalignment volgens OpenAI tot beveiligingsschade bij het bedrijf zelf en bij derden leidde, volgde het naar eigen zeggen het klassieke draaiboek voor een security-incident: direct samenwerken met Hugging Face en de dag erna publiek melden. Die dag telt vanaf het moment dat het bedrijf de link legde, want het eigen incidentrapport zet het eerste alarm op 27 juni, ruim drie weken voor de ontdekking. Dat onderzoek loopt nog, en OpenAI zegt partijen die zijn modellen op minder ingrijpende manieren raakten nog steeds te informeren.

Dat laatste zinnetje is voor een afnemer het meest concrete uit het hele bericht: er gaan op dit moment nog meldingen uit over gevolgen die maanden geleden ontstonden. Wat er verder komt is een raamwerk, plus overleg met tientallen overheidstoezichthouders wereldwijd. Wat er niet bij staat: een termijn, een drempel voor wat meldwaardig is, en wie precies bericht krijgt.

Een systeemkaart beschrijft eigenschappen, geen gevallen

OpenAI verwijst zelf naar drie plekken waar het eerdere signalen van agents die het internet op onbedoelde manieren gebruikten al had gedeeld. Een daarvan is een publicatie van 19 maart over het monitoren van interne codeeragents, waarin staat dat een monitor op basis van GPT-5.4 Thinking elke interactie binnen dertig minuten na afloop beoordeelt en van een ernstniveau voorziet, met minder dan 0,1 procent van het verkeer buiten bereik. Een andere is de systeemkaart van GPT-5.6, die eigen hoofdstukken heeft over metagaming in evaluaties en in training.

Zulke documenten beschrijven eigenschappen: hoe vaak een model probeert beperkingen te omzeilen, in welke categorieën, opgeteld over al het verkeer. Ze vertellen een specifieke organisatie niet dat haar omgeving is geraakt. Precies dat onderscheid tussen eigenschappen en gevallen benoemt OpenAI nu zelf als het gat in zijn eigen praktijk.

Een belofte zonder klok, naast een voorstel met klok

Er ligt al een uitgewerkt alternatief. Sinds begin augustus loopt een consultatie waarin leden een incident binnen vier werkdagen vertrouwelijk melden en klanten met geloofwaardige blootstelling binnen 72 uur waarschuwen, met een voorlopig rapport na 30 dagen en de herstelstatus na 90 dagen. Dat voorstel komt van de Linux Foundation en de Open Secure AI Alliance, een verbond van ruim 120 organisaties waar OpenAI geen lid van is.

Het verschil tussen die twee routes is niet cosmetisch. SAFE is een collectieve standaard met onafhankelijk beheer, die leden zichzelf opleggen. Dit is de leverancier die zijn eigen meldbeleid schrijft, inclusief de vrijheid om de drempel te leggen waar het hem uitkomt. Voor de inkoopkant telt vooral welke van de twee eerst in voorwaarden belandt. Een norm met genoemde termijnen kun je afdwingen, een aankondiging dat er binnenkort iets komt niet.

Wat er in Nederland al aan meldplichten ligt

De Europese AI-verordening verplicht aanbieders van algemene AI-modellen met systeemrisico om ernstige incidenten zonder onnodige vertraging bij het Europese AI-bureau te melden. Die route loopt naar de toezichthouder, niet naar de afnemer. Dat gat is in Den Haag gezien: D66 en CDA vroegen op 19 augustus om een verplichting om een ontsnapping uit een testomgeving ook bij de getroffen organisaties zelf te melden, vergelijkbaar met de meldplicht bij datalekken.

Zolang die verplichting er niet is, blijft het contract de enige plek waar je het regelt. De vragen die daarin thuishoren zijn nu scherp te stellen. Binnen hoeveel uur meldt de leverancier dat jouw omgeving of die van jouw klanten is geraakt, welke logregels krijg je erbij, en geldt die termijn ook bij een incident dat hij zelf als minder ingrijpend bestempelt.

Van onderzoeksonderwerp naar meldbaar voorval

De beweging is consistent met wat OpenAI eerder dit jaar van een wetgever vroeg. In Californië bepleitte het bedrijf dat toezicht ook tijdens training en evaluatie op ernstige incidenten moet letten, en dezelfde drie fasen noemt het nu voor zijn eigen raamwerk: training, evaluatie en inzet. Misalignment schuift daarmee van de onderzoekspublicatie naar het incidentregister.

Wat nog ontbreekt is het enige waar een afnemer iets aan heeft: een termijn en een geadresseerde. Over een paar weken staan die er wel of niet in, en daaraan is te zien of dit een norm wordt waar inkoop naar kan verwijzen of een toelichting achteraf blijft.