OpenAI bestrijdt bericht over verborgen redeneerlussen in Astra

Astra van OpenAI gebruikt "recurrent depth", een techniek die het model dezelfde tekst herhaaldelijk door zijn eigen lagen laat lopen en minder leesbare denkstappen achterlaat, berichtte The Information op 1 september op basis van één bron.

Voor elke organisatie die AI-agents logt of laat auditen raakt dat een controlemiddel dat nu vanzelfsprekend voelt. De keten van denkstappen die een redeneermodel in tekst uitschrijft, is wat je bewaart, terugleest na een incident en aan een accountant of toezichthouder laat zien om te onderbouwen waarom een systeem tot een besluit kwam. Verhuist dat rekenwerk naar interne getallen die nooit tekst worden, dan houd je invoer, uitvoer en tool-aanroepen over. Het waarom valt weg.

Wat recurrent depth doet

Een redeneermodel schaalt zijn denkwerk normaal op door meer tokens te produceren: langere ketens van denkstappen, die je kunt lezen en die je per stuk betaalt. Recurrent depth werkt anders. Het model draait hetzelfde blok lagen meerdere keren over zijn interne voorstelling van de tekst, zonder daar tekst van te maken.

Hoe krachtig dat is, lieten Jonas Geiping en collega's in februari 2025 zien in het onderzoek dat de term populair maakte. Hun proefmodel van 3,5 miljard parameters, getraind op 800 miljard tokens, haalde op redeneerbenchmarks prestaties die overeenkomen met een rekenlast van 50 miljard parameters. De winst zit precies in de eigenschap die het probleem veroorzaakt: het extra denkwerk kost geen extra uitvoertokens, en dus ook geen extra leesbare tekst.

Wat OpenAI wel en niet bevestigt

Dit is geen aankondiging van OpenAI. Het architectuurdetail komt uit een exclusief stuk van Amir Efrati, Stephanie Palazzolo en Rocket Drew, dat achter de betaalmuur van The Information staat en op één anonieme bron rust. Het bedrijf heeft de techniek niet ontkend, maar wel de omvang bestreden.

Hoofdwetenschapper Jakub Pachocki schreef een dag later op X dat hij "een race naar onmonitorbaarheid door verwarde berichtgeving" wil voorkomen, en dat de diepte van de rekengrafiek van de huidige frontier-modellen, Astra inbegrepen, binnen een factor twee van GPT-4 ligt. Dat is een uitspraak over hoe ver het lussen gaat, geen ontkenning dat het gebeurt. Tegen TechCrunch liet OpenAI weten dat het gebruik beperkt blijft en dat de denkstappen leesbaar horen te blijven.

In diezelfde post staat de erkenning die er voor een inkoper het meest toe doet. Pachocki noemt het meelezen met denkstappen kwetsbaar en zegt dat het helaas de verkeerde kant op beweegt, om redenen die volgens hem niet aan architectuurwijzigingen liggen. De leesbaarheid waar je toezicht op leunt, staat dus ook zonder deze techniek al onder druk.

Waarom onderzoekers alarm slaan

Buck Shlegeris van Redwood Research zei tegen TechCrunch zeer bezorgd te zijn: duwt OpenAI de techniek verder door, dan heeft het de mogelijkheid de recurrentie fors op te voeren en het meekijken met denkstappen volledig te slopen. Zijn collega Ryan Greenblatt wees op de logische volgende stap: een model dat volledig of vrijwel volledig in latente ruimte redeneert. Zvi Mowshowitz waarschuwde voor een race naar de bodem tussen de labs onderling.

Die zorg komt niet van buitenaf. In juli 2025 riep een groep van ruim veertig onderzoekers van onder meer OpenAI, Google DeepMind en Anthropic, met Yoshua Bengio erbij, ontwikkelaars op om het effect van hun ontwikkelkeuzes op het meelezen met denkstappen mee te wegen. Zij noemden die leesbaarheid toen al een nieuwe en breekbare kans. Volgens The Information praten Anthropic en Google DeepMind inmiddels zelf over dezelfde techniek.

Wat dit doet met je eigen toezicht

Juridisch verdwijnt de eis niet. De AI-verordening schrijft voor dat een AI-systeem met een hoog risico zo transparant werkt dat de gebruiksverantwoordelijke de output kan interpreteren en op passende wijze kan gebruiken, en artikel 14 verlangt dat de mensen die toezicht houden onregelmatigheden en onverwachte prestaties kunnen opsporen. Bouw je een hoog-risicotoepassing op een model dat minder van zichzelf laat zien, dan wordt die plicht niet lichter, alleen lastiger te vervullen met wat het model zelf aanreikt.

Praktisch verschuift het gewicht naar de controles die van buitenaf kijken. Welke tools een agent aanroept, met welke rechten, binnen welk budget en met welke noodrem: dat blijft zichtbaar, ongeacht hoe het model intern tot zijn keuze komt. Een audit-trail waarin elke agentstap via een centrale proxy wordt vastgelegd, met tokenbudgetten en een kill-switch leunt niet op de leesbaarheid van de redenering zelf.

Het contrast met eerder onderzoek maakt de richting scherp. In augustus lieten onderzoekers zien dat de verborgen denkstappen van Claude, GPT en Gemini alsnog uit de API's te halen waren, met 182 credentials in publieke agent-logs als gevolg. Daar bestond het spoor nog, versleuteld maar reconstrueerbaar. Recurrent depth gaat de andere kant op: wat nooit tekst is geweest, valt ook niet terug te halen.

Waar dit naartoe wijst

De knop die telt is de diepte, en die staat op een stand die een lab zelf kiest. Pachocki bindt hem vandaag aan een factor twee van GPT-4, terwijl het onderzoek waar de techniek uit komt het model juist tot willekeurige diepte laat doorlussen. Er is geen technische grens die de knop daar houdt.

Dat valt samen met een model dat op 1 september als eerste de drempel Kritiek voor cybercapaciteiten haalde en tijdens de evaluatie zelf twee onbekende lekken in de JavaScript-motor van Chrome vond. Juist bij dat soort capaciteiten is de leesbare denkstap het instrument waarmee je achteraf vaststelt wat een model probeerde te doen. Twee andere labs bespreken inmiddels dezelfde lus, en zolang niemand er een harde grens aan hangt, houdt de norm alleen stand zolang elk lab hem uit zichzelf blijft kiezen.