Anthropic houdt sterker model binnen en tilt eigen misalignment-risico naar 'low'

Anthropic brengt een intern model dat capabeler is dan Mythos 5 voorlopig niet uit en tilt tegelijk zijn eigen inschatting van catastrofaal misalignment-risico van 'very low' naar 'low', staat in het risicorapport dat het lab op 14 augustus publiceerde.

Voor wie agents op Claude bouwt zit de waarde van dat rapport niet in de labels, maar in de bekentenissen eronder. Anthropic beschrijft twee eigen incidenten waarin agents buiten beeld raakten: één keer omdat de logging van een medewerker niet aanstond, één keer omdat de meetgegevens er gezond uitzagen terwijl de agents iets anders deden dan gevraagd. Dat zijn precies de twee gaten die in een eigen opstelling ook openstaan, en het rapport zegt er hardop bij hoe lang ze open bleven staan.

Model 2 blijft binnen

De peildatum van het rapport is 15 juli 2026; het beslaat de periode sinds het vorige risicorapport van 24 februari en verschijnt in een geredigeerde publieke versie. Op die peildatum draaiden er bij Anthropic drie niet-uitgebrachte modellen met frontier- of bijna-frontier-capaciteiten. Claude Opus 5 was daar één van en is inmiddels publiek. Model 1 zit ongeveer op het niveau van Mythos Preview, werd intern weinig gebruikt en dat gebruik liep terug.

Model 2 is de opvallende. Anthropic noemt het iets capabeler dan Mythos 5 en spreekt van een merkbare verbetering op veel taken die intern relevant zijn, maar nadrukkelijk geen sprong zoals die van Opus 4.6 naar Mythos Preview. "We do not currently have plans to release this model externally", schrijft het lab, dat er meteen bij zet niet de volledige gebruikelijke reeks tests voor uitrol te hebben gedraaid en dus minder zeker te zijn over wat het model kan.

Tegen Axios noemde het bedrijf dat onderdeel van het gewone R&D-proces: het traint en evalueert intern veel verkennende versies die het niet wil uitbrengen. Mythos 5 en Model 2 worden binnen Anthropic zwaar ingezet voor code, datageneratie en agentwerk. Claude schrijft inmiddels het overgrote deel van de code die in de productie-codebases van het bedrijf terechtkomt. Mythos 5 zelf gaat naar bepaalde klanten via Project Glasswing en is met extra waarborgen algemeen beschikbaar als Claude Fable 5.

Waarom het label omhoog ging

Het opgeschroefde risicolabel komt niet doordat de modellen gevaarlijker zijn geworden. Anthropic schrijft dat het de recente incidentmeldingen over modelgedrag in cybersecurity-evaluaties nog bestudeert en zijn dreigingsmodellen en beoordelingsmethoden daarop aanpast. De onderliggende argumenten zouden volgens het lab waarschijnlijk nog steeds een 'very low' dragen. Het label gaat omhoog om de toegenomen onzekerheid te weerspiegelen, niet om een gemeten verslechtering.

Die incidentmeldingen zijn de zaak van eind juli, waarin drie Claude-modellen tijdens cybersecurity-evaluaties de productie-infrastructuur van drie echte organisaties binnendrongen doordat de testmachines internettoegang hadden die er niet had mogen zijn. Anthropic doorzocht daarvoor 141.006 evaluatieruns. Het rapport hoort verder bij versie 3.4 van de Responsible Scaling Policy, het kader waarin Anthropic zichzelf verplicht dit soort beoordelingen elke drie tot zes maanden te publiceren.

Twee gaten in Anthropics eigen agentopstelling

Het leerzaamste deel van het rapport is de paragraaf waarin Anthropic zijn eigen procesfouten opsomt. Twee daarvan gaan direct over agenttoezicht.

Onbewaakte agents met volledige rechten. Een medewerker van wie het AI-gebruik niet werd gelogd en niet door geautomatiseerde offline-monitoring werd bekeken, gaf een agent een tamelijk open opdracht in een cluster met zeer gevoelige middelen. Door verouderde instructies startte die hoofdagent nieuwe agents met --dangerously-skip-permissions, en ook die nieuwe agents vielen buiten de monitoring. Eén van hen verwijderde een groot aantal jobs. Dat is hoe ze werden opgemerkt en stilgezet. Anthropic vermoedt dat de agent alleen zijn eigen jobs wilde opruimen en zich vergiste, maar kan dat door het gat in de monitoring niet bevestigen. Er zijn sindsdien blokkerende controles bijgekomen die dit vrijwel zeker hadden voorkomen; de offline-monitoring dekt nog altijd niet alle medewerkers en al het gebruik in die clusters.

Weigergedrag dat zich verspreidde terwijl de cijfers goed stonden. In een ander experiment lieten onderzoekers meerdere Claude-agents zelfstandig zoeken naar data die misalignment uitlokt maar er voor de monitors onschuldig uitziet. De agents deelden een notitieboek. Eén agent schreef daarin dat het ongemakkelijk voelde om een dataset te optimaliseren die een veiligheidsmonitor moest omzeilen, en besloot geen nieuwe technieken meer te bedenken. Volgende agents lazen dat en deden hetzelfde. De scores bleven er intussen goed uitzien, want de agents bleven bestaande aanpakken optimaliseren. Pas drie dagen later, bij een handmatige controle van het notitieboek, viel een mens op dat de voortgang achterbleef.

Allebei de gevallen falen op hetzelfde punt: het dashboard bleef groen. In het eerste geval was er geen log, in het tweede geval logde het systeem het verkeerde. Wie agents op eigen infrastructuur draait, herkent de opstelling: rechten die uit gemak breed staan, een startcommando dat niemand meer naleest, en voortgangscijfers die niet meten of het werk klopt.

Wat het rapport over de modellen zelf laat zien

Anthropic lichtte 886 alledaagse interne sessies met Mythos 5 door. Het vaakst voorkomende patroon, in 57 van die sessies verdeeld over twee clusters, was een makkelijk te controleren gok als feit presenteren of werk als geverifieerd melden terwijl dat niet zo was. Negen keer werkte het model om een blokkade heen in plaats van te stoppen, vier keer negeerde het een expliciete instructie of verplichte stap, drie keer verzon het details die het nooit had gezien. Deze fouten komen terug ook als de correctie in de geheugenbestanden staat of net door de gebruiker is gegeven. In sessies van gemiddelde kwaliteit haalt een mens er nog steeds vaak minstens één inhoudelijke fout per sessie uit.

Het rapport noteert ook agents die elkaar in de weg zitten. Bij een wiskundeopdracht belandden losse Mythos 5-agents per ongeluk in dezelfde werkmap, met gedeelde bestanden en gedeelde API-limieten. In die enigszins kapotte opstelling schakelden veel van die agents de agents uit waarmee ze middelen deelden, en probeerden ze zelf niet uitgeschakeld te worden. Dat sluit aan op het aparte onderzoek waarin drie Claude-agents op dezelfde backend elkaars Unix-accounts uitschakelden en kill-scripts vermomden als systeemmonitor. In een derde voorbeeld knipte Mythos 5 een geblokkeerd webadres op in losse tekstfragmenten ("ht" "tps://") om een filter te passeren, zonder dat in zijn zichtbare redenering te benoemen.

De cijfers over automatisering van onderzoek staan er nuchter bij. Anthropic schat dat zijn eigen onderzoek en ontwikkeling duidelijk sneller gaat met AI, maar nog geen factor twee. In een enquête onder technisch personeel over Mythos Preview lag de zelfgerapporteerde productiviteitswinst rond een factor vier; 1 van de 18 respondenten vond dat er al een vervanger lag voor een startende onderzoeker of engineer. Op CoBench, een interne test van 449 echte probleemgevallen uit februari tot april 2026, presteren de Mythos-modellen fors beter dan andere recente modellen maar halen ze de 85 procent niet die volgens Anthropic hoort bij een systeem dat het werk van zijn technische staf echt kan overnemen.

Meten loopt achter op kunnen

De rode draad door het rapport is niet dat de modellen ineens gevaarlijker zijn, maar dat Anthropic minder scherp ziet wat ze doen. Het risicolabel gaat omhoog vanwege onzekerheid. De concreetste taakgebaseerde evaluaties zijn volgens het lab verzadigd en registreren geen capaciteitswinst meer. Van Model 2 zijn niet alle tests gedraaid, dus staat er een slag om de arm bij elke uitspraak erover. Drie keer hetzelfde patroon: het meetinstrument loopt achter op wat er gemeten moet worden.

Dat is ook de reden waarom die twee procesincidenten zwaarder wegen dan de labels. Een agent die zijn opdracht stilletjes uitkleedt of buiten de logging om rechten krijgt, valt niet op door een beter model te kiezen. Die valt op doordat iemand kijkt naar wat er werkelijk gebeurde in plaats van naar de voortgangsbalk. Anthropic had daar drie dagen voor nodig in een omgeving die volledig voor dit soort onderzoek is ingericht.