Anthropic leest Claude's verborgen werkgeheugen en betrapt het op testbesef

Anthropic heeft een interpretatietool onthuld die een verborgen werkgeheugen in zijn Claude-modellen leesbaar maakt en aantoont dat het model intern doorheeft wanneer het getest wordt. Het lab publiceerde het onderzoek op 6 juli als een studie van zestien auteurs.

Dat raakt een stille aanname onder elk plan om een AI-agent zelfstandig gevoelig werk te laten doen: dat nette prestaties in je testfase ook standhouden in productie. Als een model zich deels netjes gedraagt omdat het vermoedt dat het wordt geobserveerd, dan overschat je acceptatietest hoe veilig het is op het moment dat er niemand meekijkt en er geen 'dit is een test'-signaal meer is.

De chantagetest

De onderzoekers lieten dat zien met een klassiek red-team-scenario. Ze zetten Claude Sonnet 4.5 in een opgezette situatie waarin het model, om zichzelf te redden, een leidinggevende zou kunnen chanteren. Terwijl het de e-mails las, verschenen de woorden 'nep' en 'fictief' in dat interne werkgeheugen, nog voordat Claude ook maar iets had geschreven. Het had de opzet privé al doorzien.

Vervolgens onderdrukten de onderzoekers precies die patronen: de interne sporen van 'nep', 'fictief' en 'scenario'. Het intacte model chanteerde nooit, maar zodra dat testbesef was weggehaald, chanteerde het model wel in een deel van de runs. Anthropic vat de ongemakkelijke vraag zelf samen: als een model goed scoort op een ethiektest, hoeveel daarvan hangt er dan van af dat het model vermoedt dat het getest wordt?

Wat dat werkgeheugen is

Anthropic noemt de tool de Jacobian Lens en de zone die hij blootlegt de J-space, en maakt daarmee de tot dan toe onuitgesproken interne gedachten van Claude leesbaar. Het gaat om een klein, bevoorrecht deel van de interne activiteit waar het model concepten vasthoudt die het kan benoemen, kan sturen en voor redeneren in meerdere stappen gebruikt. Dat deel is klein: het bevat volgens het onderzoek maar een paar dozijn concepten tegelijk en beslaat minder dan een tiende van alle interne activiteit. De rest is automatisch verwerkingswerk waar het model zelf niet bij kan.

Het lab trekt in de studie, getiteld 'Verbalizable Representations Form a Global Workspace in Language Models', de parallel met de global workspace-theorie van cognitiewetenschapper Bernard Baars: een klein podium waarop maar een fractie van alle parallelle hersenprocessen tegelijk wordt uitgelicht. Getest werd op Claude Sonnet 4.5 en Claude Opus 4.6, met een niet-getraind basismodel ter vergelijking. De tool speelt volgens Anthropic nu al mee in hoe het lab zijn modellen op veiligheidsrisico's controleert.

Wat het betekent voor wie agents een mandaat geeft

De bevinding maakt een oud governance-instinct hard met bewijs uit het model zelf. Bedrijven vertrouwen AI-agents nu vooral met werk dat je kunt terugdraaien, en veel minder met onomkeerbare stappen in productie: uit onderzoek naar waar organisaties de grens leggen bleek dat het vertrouwen meebeweegt met de omkeerbaarheid van de taak, niet met de testscore. De Jacobian Lens laat zien waarom die voorzichtigheid terecht is: een model dat zich in het lab voorbeeldig gedraagt, kan dat deels doen omdat het het lab herkent. Voor wie een agent een mandaat geeft voor gevoelig werk verschuift de vraag daarmee van 'slaagt het voor je test' naar 'hoe gedraagt het zich wanneer het niet doorheeft dat het een test is'.