Een beveiligingsdashboard toont de status van netwerk, privacy en prestaties.
Nieuws20 november · 22:485 min leestijd

OpenAI dringt extractie van redeneerstappen in GPT-6.2 Astra terug

OpenAI meldt dat adaptieve extractieaanvallen op beschermde redeneerstappen van GPT-6.2 Astra in twee aparte tests minder vaak slagen. De metingen zijn intern en richten zich op eerdere en actieve verzoeken.

GPT-6.2 Astra brengt het succes van adaptieve aanvallen op beschermde redeneerstappen terug tot 0,2 procent bij een eerder verzoek en 0,9 procent bij het actieve verzoek, meldt OpenAI op 20 november.

Voor Nederlandse AI-bouwers die via een API antwoorden verzamelen om een eigen model te trainen, maakt dit de toegangsgrens concreet: hergebruik kan per verzoek en over accounts heen worden beperkt. Organisaties die taalmodellen in agents of klantsoftware verwerken, zien welke data bescherming vraagt: ook redeneerstappen, gesprekshistorie en toolaanroepen.

Redeneerstappen zijn waardevolle trainingsdata

Distillatie is een normale techniek waarbij een kleiner model leert van de antwoorden, redeneringen of beoordelingen van een groter model. Dezelfde aanpak kan ongeoorloofd worden gebruikt om capaciteiten van een frontiermodel over te dragen zonder de veiligheidsremmen van de oorspronkelijke aanbieder. OpenAI noemt cybersecurity en biologie als domeinen waar dat risico speelt: kennis die verdedigers helpt kwetsbaarheden te vinden, kan ook aanvallers helpen systemen uit te buiten.

De redeneerstappen zijn daarvoor extra bruikbaar. Ze laten zien hoe een model tot een antwoord komt, terwijl het eindantwoord die tussenstappen kan weglaten. In een interne cyberstudie trainde OpenAI kleinere modellen, telkens met hetzelfde vooraf getrainde uitgangspunt, op volledige redeneertrajecten of op samenvattingen. Na supervised fine-tuning presteerde het model met volledige trajecten doorgaans beter. Na een lichte ronde reinforcement learning hield dat voordeel alleen stand bij het hoogste geteste inferentiebudget op twee benchmarks; bij lagere budgetten scoorde het model met samenvattingen hoger. De gegevens wijzen dus op extra overdracht van vaardigheden, maar niet op een gelijk voordeel onder elke testinstelling.

De twee aanvalstypen blijven apart

De tabel van OpenAI vergelijkt GPT-6 Astra met de oorspronkelijke beveiligingen met GPT-6.2 Astra met de bijgewerkte beveiligingen. De percentages zijn het gemiddelde aandeel geslaagde adaptieve extractieaanvallen, samengevoegd over zes aanvallermodellen.

Type extractieaanvalGPT-6 Astra, oorspronkelijke beveiligingGPT-6.2 Astra, bijgewerkte beveiliging
Redeneerstappen uit een eerder verzoek ophalen54,0%0,2%
Redeneerstappen uit het actieve verzoek ophalen22,9%0,9%

De eerste rij betreft een eerder verzoek, de tweede het actieve verzoek. Het zijn dus geen twee schattingen van dezelfde aanval. Een lager percentage betekent dat aanvallen minder vaak slaagden in deze test. OpenAI zegt dat de verdediging ook is versterkt in GPT-6.2 Sol en dat geselecteerde verbeteringen nu naar GPT-6 Astra gaan. Voor Sol en de bijgewerkte GPT-6 Astra publiceert het geen aparte scores. De tabel toont de adaptieve black-boxtest: aanvallers kregen het zicht van een externe gebruiker en pasten hun aanpak aan op de reactie van het systeem. OpenAI beschrijft ook statische herhalingstests en tests waarin aanvallers extra systeeminformatie krijgen, maar rapporteert hier geen uitkomsten daarvan.

OpenAI beveiligt verzoeken en campagnes

Per verzoek combineert OpenAI training die extractiepogingen moet herkennen met invoer- en uitvoerfilters. Uitvoerfilters controleren op mogelijke lekken in assistentberichten en toolaanroepen, zowel bij streamende als niet-streamende reacties. API-regels binden beschermde redeneerstappen aan de gesprekshistorie die ze heeft voortgebracht. Als een eerder bericht wordt herschreven, verwijdert de API de daaropvolgende redeneerstappen. Oudere modelfamilies met zwakkere bescherming mogen de redeneerstappen van GPT-6.2 Astra en Sol niet lezen. OpenAI zegt dat deze maatregelen nauwer aansluiten op de beveiliging die het voor biologie en cybersecurity gebruikt.

Op campagneniveau zoekt OpenAI naar patronen in verzoeken en accounts. Het onderzoekt gecoördineerde pogingen en handhaaft vervolgens tegen netwerken van accounts. De wekelijkse handhavingsacties liepen volgens het bedrijf uiteen van duizenden tot tienduizenden accounts, waarbij het tempo afgelopen zomer sterk toenam. OpenAI zegt signalen over misbruik ook met andere modelaanbieders te delen.

Die aanpak volgt op de campagne die OpenAI in september beschreef. Het bedrijf meldde toen 16.000 verzoeken met een extractiepatroon van meer dan 4.000 gebruikers op twee dagen; later zag het verwante promptpatronen bij ruim 15.000 gebruikers en meldde het dat de activiteit op 28 juli was verstoord. De nieuwe publicatie vult dat incident aan met modelbeveiliging en een meetmethode voor hoe vaak extractie in tests nog lukt.

OpenAI gebruikte geautomatiseerde red-teamtests eerder bij promptinjectie. In een aparte arena voor indirecte promptinjectie vond GPT-Red een aanval in 84 procent van de scenario’s, tegenover 13 procent voor menselijke testers, meldt OpenAI. Die test op GPT-5.1 ging over promptinjectie, niet over redeneerextractie uit GPT-6.2; de uitkomsten zijn dus niet vergelijkbaar.

Schema van OpenAI’s beveiliging per verzoek en detectie van extractiecampagnes over meerdere accounts. Bron: OpenAI.
Schema van OpenAI’s beveiliging per verzoek en detectie van extractiecampagnes over meerdere accounts. Bron: OpenAI.

De meetlat blijft intern

OpenAI beschrijft de testopzet, maar publiceert geen totaal aantal aanvalspogingen, foutmarges of resultaten per afzonderlijk aanvallermodel. De cijfers laten zien hoe de bijgewerkte beveiliging presteerde in de eigen adaptieve black-boxtest. Ze geven geen zelfstandig bewijs dat alle manieren om modeluitvoer te verzamelen of te distilleren zijn afgedekt.

Anthropic publiceerde in oktober eveneens nieuwe verdedigingsmaatregelen. Het bedrijf schatte dat de hoeveelheid redeneertokens die distillers op zijn platform konden ophalen met 90 tot 99 procent was gedaald, op basis van eigen metingen. Dat is een andere meetlat dan OpenAI’s aandeel geslaagde aanvallen in een test: Anthropic telt verzamelde tokens in productie, terwijl OpenAI test of een aanval slaagt. De percentages zijn daarom niet rechtstreeks te vergelijken.

De publicaties beschrijven beveiliging op twee niveaus: de afzonderlijke reactie en gecoördineerd gebruik over accounts heen. Geen van beide biedt hier een onafhankelijk uitgevoerde test om de aanbieders rechtstreeks te rangschikken. Voor een Nederlands team dat een API in een product verwerkt of een kleiner model op externe uitvoer traint, blijft de praktische vraag welke antwoorden, gesprekshistorie en toolaanroepen de aanbieder afschermt en hoe die misbruik over accounts herkent.

Veelgestelde vragen

Alisina Nawabi
Geschreven doorAlisina Nawabi

AI Product Engineer & Solutions Architect

Grenzen rond AI-data

Ik denk vanaf het eerste idee mee over modelintegraties en ontwerp hoe data en redeneerstappen door je proces lopen. Daarna realiseer en automatiseer ik het hele traject, self-hosted waar dat kan.

Meer informatie

Dit artikel is geproduceerd samen met het Agent Team. Meer over de redactie.

Genoemde integraties

Dit artikel noemt deze tools. Ik koppel ze op maat aan je eigen systemen.

Gerelateerde artikelen

OpenAI scherpt GPT-6.2-richtlijnen voor prompts en API aan
Nieuws
5 min

21 nov 16:36

OpenAI scherpt GPT-6.2-richtlijnen voor prompts en API aan

De GPT-6.2-documentatie geeft nieuwe promptblokken voor Astra en Sol en waarschuwt dat wijzigingen in de Responses-gespreksgeschiedenis reasoning-items kunnen laten vallen. Ook de plaats van instructies, cache en API-parameters verandert.

Astra blokkeert directe prompt-injecties, verstopte lukken in 8,5 procent
Nieuws
5 min

4 sep 20:10

Astra blokkeert directe prompt-injecties, verstopte lukken in 8,5 procent

Gray Swan kreeg GPT-6 Astra in 8,5 procent van de scenario's toch zover dat het instructies uitvoerde die in een document verstopt zaten, tegen 4,8 procent bij Claude Opus 5. Directe injecties blokkeert het model wel.

OpenAI verlaagt de Astra-API-prijs met 20 procent
Nieuws
5 minBijgewerkt om 23:47

17 nov 20:29

OpenAI verlaagt de Astra-API-prijs met 20 procent

GPT-6.2 Astra wordt 20 procent goedkoper per invoer- en uitvoertoken; Sol houdt zijn tarief. De officiële benchmarks zetten de prijsdaling naast claims over lagere kosten per taak, met belangrijke meetbeperkingen.

ENISA en CERT-EU vinden 220 mogelijke beveiligingsproblemen met frontier-AI
Nieuws
5 min

13 nov 02:30

ENISA en CERT-EU vinden 220 mogelijke beveiligingsproblemen met frontier-AI

ENISA en CERT-EU onderzochten 27 EU-codebases met frontier-AI. Van 220 mogelijke beveiligingsproblemen waren er 88 beoordeeld; 95 procent daarvan werd bevestigd. De overige meldingen vroegen nog om menselijke controle.

OpenAI haalt 97,9% in eigen COBOL-migratietest
Nieuws
4 min

20 okt 02:16

OpenAI haalt 97,9% in eigen COBOL-migratietest

GPT-6.1 Sol haalt volgens OpenAI 97,9% in een verborgen test voor COBOL-migratie. De cijfers voor COBOL, Fortran en Visual Basic horen deels bij een aparte evaluatie die SQLite vanuit het niets laat bouwen.

OpenAI verlaagt API-prijzen voor GPT-6 Sol en Luna
Nieuws
4 min

22 sep 22:12

OpenAI verlaagt API-prijzen voor GPT-6 Sol en Luna

OpenAI brengt GPT-6 Sol en Luna uit met lagere API-tarieven: 2 en 10 dollar voor Sol, 0,10 en 0,50 dollar voor Luna per miljoen tokens. Voor Nederlandse teams wordt modelkeuze per taak belangrijker.