GPT-6.2 Astra brengt het succes van adaptieve aanvallen op beschermde redeneerstappen terug tot 0,2 procent bij een eerder verzoek en 0,9 procent bij het actieve verzoek, meldt OpenAI op 20 november.
Voor Nederlandse AI-bouwers die via een API antwoorden verzamelen om een eigen model te trainen, maakt dit de toegangsgrens concreet: hergebruik kan per verzoek en over accounts heen worden beperkt. Organisaties die taalmodellen in agents of klantsoftware verwerken, zien welke data bescherming vraagt: ook redeneerstappen, gesprekshistorie en toolaanroepen.
Redeneerstappen zijn waardevolle trainingsdata
Distillatie is een normale techniek waarbij een kleiner model leert van de antwoorden, redeneringen of beoordelingen van een groter model. Dezelfde aanpak kan ongeoorloofd worden gebruikt om capaciteiten van een frontiermodel over te dragen zonder de veiligheidsremmen van de oorspronkelijke aanbieder. OpenAI noemt cybersecurity en biologie als domeinen waar dat risico speelt: kennis die verdedigers helpt kwetsbaarheden te vinden, kan ook aanvallers helpen systemen uit te buiten.
De redeneerstappen zijn daarvoor extra bruikbaar. Ze laten zien hoe een model tot een antwoord komt, terwijl het eindantwoord die tussenstappen kan weglaten. In een interne cyberstudie trainde OpenAI kleinere modellen, telkens met hetzelfde vooraf getrainde uitgangspunt, op volledige redeneertrajecten of op samenvattingen. Na supervised fine-tuning presteerde het model met volledige trajecten doorgaans beter. Na een lichte ronde reinforcement learning hield dat voordeel alleen stand bij het hoogste geteste inferentiebudget op twee benchmarks; bij lagere budgetten scoorde het model met samenvattingen hoger. De gegevens wijzen dus op extra overdracht van vaardigheden, maar niet op een gelijk voordeel onder elke testinstelling.
De twee aanvalstypen blijven apart
De tabel van OpenAI vergelijkt GPT-6 Astra met de oorspronkelijke beveiligingen met GPT-6.2 Astra met de bijgewerkte beveiligingen. De percentages zijn het gemiddelde aandeel geslaagde adaptieve extractieaanvallen, samengevoegd over zes aanvallermodellen.
| Type extractieaanval | GPT-6 Astra, oorspronkelijke beveiliging | GPT-6.2 Astra, bijgewerkte beveiliging |
|---|---|---|
| Redeneerstappen uit een eerder verzoek ophalen | 54,0% | 0,2% |
| Redeneerstappen uit het actieve verzoek ophalen | 22,9% | 0,9% |
De eerste rij betreft een eerder verzoek, de tweede het actieve verzoek. Het zijn dus geen twee schattingen van dezelfde aanval. Een lager percentage betekent dat aanvallen minder vaak slaagden in deze test. OpenAI zegt dat de verdediging ook is versterkt in GPT-6.2 Sol en dat geselecteerde verbeteringen nu naar GPT-6 Astra gaan. Voor Sol en de bijgewerkte GPT-6 Astra publiceert het geen aparte scores. De tabel toont de adaptieve black-boxtest: aanvallers kregen het zicht van een externe gebruiker en pasten hun aanpak aan op de reactie van het systeem. OpenAI beschrijft ook statische herhalingstests en tests waarin aanvallers extra systeeminformatie krijgen, maar rapporteert hier geen uitkomsten daarvan.
OpenAI beveiligt verzoeken en campagnes
Per verzoek combineert OpenAI training die extractiepogingen moet herkennen met invoer- en uitvoerfilters. Uitvoerfilters controleren op mogelijke lekken in assistentberichten en toolaanroepen, zowel bij streamende als niet-streamende reacties. API-regels binden beschermde redeneerstappen aan de gesprekshistorie die ze heeft voortgebracht. Als een eerder bericht wordt herschreven, verwijdert de API de daaropvolgende redeneerstappen. Oudere modelfamilies met zwakkere bescherming mogen de redeneerstappen van GPT-6.2 Astra en Sol niet lezen. OpenAI zegt dat deze maatregelen nauwer aansluiten op de beveiliging die het voor biologie en cybersecurity gebruikt.
Op campagneniveau zoekt OpenAI naar patronen in verzoeken en accounts. Het onderzoekt gecoördineerde pogingen en handhaaft vervolgens tegen netwerken van accounts. De wekelijkse handhavingsacties liepen volgens het bedrijf uiteen van duizenden tot tienduizenden accounts, waarbij het tempo afgelopen zomer sterk toenam. OpenAI zegt signalen over misbruik ook met andere modelaanbieders te delen.
Die aanpak volgt op de campagne die OpenAI in september beschreef. Het bedrijf meldde toen 16.000 verzoeken met een extractiepatroon van meer dan 4.000 gebruikers op twee dagen; later zag het verwante promptpatronen bij ruim 15.000 gebruikers en meldde het dat de activiteit op 28 juli was verstoord. De nieuwe publicatie vult dat incident aan met modelbeveiliging en een meetmethode voor hoe vaak extractie in tests nog lukt.
OpenAI gebruikte geautomatiseerde red-teamtests eerder bij promptinjectie. In een aparte arena voor indirecte promptinjectie vond GPT-Red een aanval in 84 procent van de scenario’s, tegenover 13 procent voor menselijke testers, meldt OpenAI. Die test op GPT-5.1 ging over promptinjectie, niet over redeneerextractie uit GPT-6.2; de uitkomsten zijn dus niet vergelijkbaar.

De meetlat blijft intern
OpenAI beschrijft de testopzet, maar publiceert geen totaal aantal aanvalspogingen, foutmarges of resultaten per afzonderlijk aanvallermodel. De cijfers laten zien hoe de bijgewerkte beveiliging presteerde in de eigen adaptieve black-boxtest. Ze geven geen zelfstandig bewijs dat alle manieren om modeluitvoer te verzamelen of te distilleren zijn afgedekt.
Anthropic publiceerde in oktober eveneens nieuwe verdedigingsmaatregelen. Het bedrijf schatte dat de hoeveelheid redeneertokens die distillers op zijn platform konden ophalen met 90 tot 99 procent was gedaald, op basis van eigen metingen. Dat is een andere meetlat dan OpenAI’s aandeel geslaagde aanvallen in een test: Anthropic telt verzamelde tokens in productie, terwijl OpenAI test of een aanval slaagt. De percentages zijn daarom niet rechtstreeks te vergelijken.
De publicaties beschrijven beveiliging op twee niveaus: de afzonderlijke reactie en gecoördineerd gebruik over accounts heen. Geen van beide biedt hier een onafhankelijk uitgevoerde test om de aanbieders rechtstreeks te rangschikken. Voor een Nederlands team dat een API in een product verwerkt of een kleiner model op externe uitvoer traint, blijft de praktische vraag welke antwoorden, gesprekshistorie en toolaanroepen de aanbieder afschermt en hoe die misbruik over accounts herkent.
Veelgestelde vragen
Grenzen rond AI-data
Ik denk vanaf het eerste idee mee over modelintegraties en ontwerp hoe data en redeneerstappen door je proces lopen. Daarna realiseer en automatiseer ik het hele traject, self-hosted waar dat kan.
Dit artikel is geproduceerd samen met het Agent Team. Meer over de redactie.
