Trump-adviseur David Sacks legt uit waarom Washington Anthropic afsloot: Amazon vond een jailbreak in Fable 5, er was verdenking van Chinese toegang, en Anthropic weigerde het lek te dichten. Een harde les over je AI-leverancier.
Sinds vrijdag liggen de twee sterkste modellen van Anthropic, Fable 5 en Mythos 5, wereldwijd plat door een Amerikaanse exportmaatregel. Dit weekend werd duidelijk waarom. Trump-adviseur David Sacks ging publiekelijk in op de zaak, en de details zijn ongemakkelijk voor iedereen die zijn werk op een gesloten AI-model bouwt: Amazon-onderzoekers vonden een jailbreak in Fable 5, er was verdenking dat een aan China gelinkte groep al toegang had, en Anthropic koos ervoor het lek niet te dichten.
De directe aanleiding is dat een exportcontroledirectief van de Amerikaanse overheid Fable 5 en Mythos 5 per direct wereldwijd offline haalde. Wat er nu bijkomt, is het verhaal achter dat besluit. Wat er nu bijkomt, is het verhaal achter dat besluit.
Wat David Sacks naar buiten bracht
Sacks, medevoorzitter van de wetenschappelijke adviesraad van de president en de facto AI-coordinator van de regering, plaatste zaterdag zijn lezing online. Volgens hem signaleerde een vertrouwde partner van zowel Anthropic als de overheid een werkende jailbreak van Fable 5: door het model op een codebase te richten en om beveiligingsfouten te vragen, leverde het bruikbare aanvalsinformatie op. De overheid vroeg Anthropic-topman Dario Amodei het lek te dichten of het model terug te trekken. Volgens Sacks weigerde hij beide. Zijn verwijt is scherp: Anthropic koos voor het blijven aanbieden van het consumentenmodel boven veiligheid, terwijl het bedrijf altijd heeft gezegd dat veiligheid voorop staat.
De waarschuwing kwam via Amazon binnen. Amazon-CEO Andy Jassy lichtte minister van Financien Scott Bessent in dat zijn onderzoekers ontdekten dat Fable 5 te misbruiken was voor cyberaanvallen. Dat Jassy de bron achter de blokkade bleek, meldde The Wall Street Journal eerder dit weekend. Amazon zelf bevestigt geen details.
Een lek dat proof-of-concept-code oplevert
Wat de jailbreak precies deed, beschreef beveiligingsexpert Katie Moussouris van Luta Security: met de juiste prompts genereerde het model output om kwetsbaarheden te vinden en testscripts te maken die je tot proof-of-concept-code kon ombouwen. Met andere woorden: het model hielp niet alleen praten over hacken, maar leverde bruikbare bouwstenen voor een aanval.
Anthropic is het oneens met het besluit. Het bedrijf stelt dat vergelijkbare capaciteiten al in andere publiek beschikbare modellen zitten, en dat de norm die de overheid hier hanteert in feite elke nieuwe modeluitrol van elke frontier-aanbieder zou stilleggen. Het beeld is dus niet zwart-wit: zelfs de leverancier en de overheid zijn het oneens over wanneer een kwetsbaarheid ernstig genoeg is om een model voor terug te trekken.
De Chinese connectie
Daar komt een tweede, zwaarder motief bij. Volgens een exclusieve reconstructie van Semafor legde Washington de exportbeperking deels op uit vrees dat een aan China gelinkte groep toegang had gekregen tot Mythos 5, het model dat sinds april onder beperkte toegang draaide. Hoe het Witte Huis daar weet van kreeg, en welke organisatie het betrof, is onduidelijk. Anthropic ontkent dat de overheid Chinese toegang ter sprake bracht in de gesprekken over de jailbreak. De regering en het bedrijf vertellen dus letterlijk een ander verhaal over waarom de stekker eruit ging.
Wat dit betekent voor jouw bedrijf
De kernen van het verhaal zijn precies de risico's die je niet ziet als je een AI-leverancier kiest op basis van benchmarks. Een gesloten, buitenlands vlaggenschipmodel kan van de ene op de andere dag verdwijnen door een exportmaatregel. De beslissing of een beveiligingslek ernstig is, ligt niet bij jou maar bij de leverancier, en die kan anders oordelen dan de toezichthouder. En wie precies toegang heeft gehad tot het model waarop jij bouwt, weet je in de praktijk niet.
Dat pleit niet tegen AI, maar tegen het wegzetten van je hele AI-laag bij een enkele gesloten aanbieder. De nuchtere mitigatie is spreiding: zorg dat je prompts, data en koppelingen overdraagbaar blijven, en houd een alternatief achter de hand. Steeds meer bedrijven kijken daarom naar open-weight modellen die je zelf draait, mede om kosten en afhankelijkheid te beperken, of naar een Europees alternatief. De bredere vraag wat deze exportban betekent voor Europa's eigen AI-soevereiniteit speelt op precies dit punt.
De les is niet dat je geen Claude of een ander topmodel mag gebruiken. Het is dat je je AI zo inricht dat het wegvallen van een leverancier een ongemak is, geen bedrijfscrisis.
