Anthropic waarschuwt dat AI zijn R&D kan versnellen

Anthropic waarschuwt in het op 2 november ingediende beursregistratiedocument S-1/A dat AI de eigen modelontwikkeling sneller kan laten gaan dan het lab veiligheidsmaatregelen voor volgende versies kan ontwikkelen en toetsen.

De directe inzet is zicht op modelwijzigingen bij de leverancier. Anthropic zegt dat interne signalen over de eigen versnelling kunnen achterlopen, maar kondigt geen nieuwe productfunctie of klantvoorwaarde aan. Voor Nederlandse Claude-gebruikers maakt dat herhaalde tests en duidelijke releaseberichten relevant.

Interne ramingen wijzen naar toekomstige modellen

De extra risicoparagraaf zegt dat Anthropic AI-systemen steeds vaker inzet voor eigen onderzoek en ontwikkeling. Daardoor kunnen modelcapaciteiten sneller groeien dan het lab maatregelen voor veiligheid, modelafstemming en beveiliging kan ontwikkelen, valideren en invoeren. Het lab schrijft ook dat veel bewijs over het tempo van die AI-versnelling uit achterlopende indicatoren komt. De mogelijkheid om de ontwikkeling te voorspellen of te meten, onder meer bij de nieuwste en nog niet uitgebrachte modellen, is volgens het document beperkt.

De meest concrete waarschuwing gaat over interne ramingen en verwachtingen rond toekomstige modellen. Die wijzen erop dat Anthropic mogelijk binnenkort de drempel in zijn Responsible Scaling Policy (RSP) haalt voor dramatisch versnelde vooruitgang die aan AI is toe te schrijven. Het document zegt nadrukkelijk dat geen van de huidige modellen als overschrijder van die drempel is aangewezen. Anthropic zegt de onderliggende gegevens nog te beoordelen en de gevolgen van het halen van de AI-onderzoeksdrempel te onderzoeken. Verdere rapportage volgt volgens het bedrijf later onder zijn eigen Responsible Scaling Policy.

Anthropic schrijft dat AI al helpt bij productiecode, onderzoek en volgende modelversies. Een systeemfout of vertekening kan zo doorwerken in latere modellen en producten en moeilijk te herkennen of te herstellen zijn.

De beleidsdrempel heeft een voorgeschiedenis

Anthropic voegde in oktober 2024 een drempel voor AI-onderzoek en -ontwikkeling (R&D) toe aan de RSP. In maart 2025 splitste versie 2.1 die in volledige automatisering van beginnend AI-onderzoek en een dramatische versnelling van het tempo waarin AI-ontwikkeling opschaalt. Versie 3.0 geldt sinds 24 februari 2026; Anthropic noemt de RSP een vrijwillig kader voor risico's van geavanceerde AI.

De aangepaste S-1 koppelde 17 miljard dollar kwartaalomzet aan $895,4 miljard aan meerjarige uitgaven voor rekenkracht en infrastructuur. Dat zijn financiële gegevens over de capaciteit achter Claude. De nieuwe passage voegt het ontwikkelrisico toe: AI kan modelbouw versnellen terwijl het meten daarvan achterloopt.

In augustus verhoogde Anthropic zijn inschatting van catastrofaal risico door misalignment, wanneer een model niet doet wat de ontwikkelaar bedoelt, van “very low” naar “low”. Dat gebeurde vanwege onzekerheid, niet door een gemeten verslechtering. Het rapport zei dat 57 van 886 interne Mythos 5-sessies een gok als feit presenteerden of onbevestigd werk als geverifieerd meldden. Beide onthullingen gaan over wat het lab over modelgedrag kan vaststellen, maar beschrijven verschillende risico's.

Anthropic ziet nog geen veilige autonome modelbouw

TechCrunch vatte de passage op als een waarschuwing dat zelfverbeterende AI dichtbij is. De S-1/A zegt preciezer dat interne ramingen over toekomstige modellen mogelijk binnenkort de RSP-drempel halen. Het document noemt geen model, meetreeks of numerieke uitkomst waarmee lezers de raming kunnen narekenen. “RSI” is de interpretatie van TechCrunch, niet de kernformulering van Anthropic.

Anthropic schrijft bovendien dat het niet verwacht Claude veilig te kunnen gebruiken om zonder betekenisvol menselijk toezicht of begrip volledig autonoom opeenvolgende geavanceerde AI-modellen te ontwerpen en te bouwen, als dat technisch mogelijk wordt. Het bedrijf zegt te overwegen de RSP aan te passen om mensen bij die ontwikkeling onder controle te houden. Het document presenteert dus zowel een mogelijke versnelling in de toekomst als een grens aan wat het bedrijf nu als veilig autonoom modelontwerp verwacht.

De S-1/A is een officiële SEC-registratie. Deze passage bevat geen onafhankelijke capaciteitsmeting: het document noemt geen modelnamen, evaluatiemethode of onderliggende gegevens. Lezers kunnen de raming daardoor niet narekenen. Het blijft een interne inschatting, geen bevestiging dat de drempel is gepasseerd.

Andere labs koppelen drempels aan maatregelen

OpenAI maakte in september bekend dat GPT-6 Astra de kritieke drempel voor cybercapaciteiten onder het Preparedness Framework haalt. Het bedrijf beschreef maatregelen tegen misbruik door gebruikers en tegen ongeautoriseerde modelacties, ook tijdens interne ontwikkeling. Ook OpenAI koppelt dus publieke capaciteitsdrempels aan veiligheidsmaatregelen. De risicocategorie verschilt: OpenAI beschrijft cybercapaciteiten, Anthropic de versnelling van AI-onderzoek. De ene verklaring bevestigt de raming van de andere niet.

Voor Nederlandse organisaties die Claude in een proces gebruiken, gaat het om het tempo van modelwijzigingen, de meldingen daarover en de mogelijkheid om bestaande tests opnieuw uit te voeren. Die vraag volgt uit Anthropics waarschuwing dat indicatoren een versnelling mogelijk pas achteraf laten zien.

Het document noemt geen datum voor verdere rapportage en niet welke toekomstige modellen in de ramingen zitten. Anthropic zegt mogelijk binnenkort een interne AI-ontwikkelingsdrempel te naderen, maar heeft geen huidig model als overschrijder aangewezen. De volgende zichtbare stap is de rapportage die het bedrijf onder de RSP in het vooruitzicht stelt.