Amodei ontkent pleidooi voor verbod op open-weight modellen

Anthropic heeft nooit een verbod op open-weight modellen bepleit, schrijft topman Dario Amodei in een blogpost van maandag 27 juli, na beschuldigingen dat zijn bedrijf open modellen wil laten verbieden om zijn eigen omzet te beschermen.

Voor een Nederlands team dat zijn modelkeuze mede baseert op de politieke houdbaarheid van open gewichten, verandert daarmee waar het risico zit. De partij die het scherpst als tegenstander van open modellen werd neergezet, noemt een gebruiksverbod nu zelf het verkeerde middel. Wat Anthropic wél wil, grijpt bijna volledig bovenstrooms van je eigen stack in: exportcontroles op chips, een aanpak van industriële distillatie en een verplichte veiligheidstest voor elk voldoende capabel model, open of gesloten. Alleen dat laatste raakt je planning direct, want het zet een keuringsstap tussen de aankondiging van een model en de dag dat je het kunt draaien.

Wat Amodei letterlijk schrijft

De kernzin staat vet in zijn eigen post: Anthropic heeft nooit een verbod op open-weight modellen bepleit. Modellen zonder gevaarlijke capaciteiten noemt hij een publiek goed. Ze kosten niets behalve de rekenkracht om ze te draaien en leveren waarde op voor bedrijven, ontwikkelaars en onderzoekers.

Hij benoemt ook wat een verbod hem zou opleveren. Zo'n maatregel zou Amerikaanse AI-bedrijven tegen concurrentie beschermen, schrijft hij, "maar dat is nooit mijn doel geweest". Zijn inhoudelijke bezwaar: een verbod op gebruik door Amerikaanse bedrijven raakt het echte risico niet, omdat kwaadwillenden zelden legitieme Amerikaanse bedrijven zijn.

De aanleiding ligt een week terug. Axios meldde op 20 juli dat delen van de regering-Trump opnieuw aansturen op maatregelen tegen Chinese open modellen, aangewakkerd door de opkomst van het Chinese Kimi. In datzelfde stuk stelde David Sacks, AI-adviseur van het Witte Huis, dat de leidende gesloten labs, volgens hem al een duopolie in modelomzet, willen dat de overheid hun open-source-concurrentie uitschakelt.

De drie maatregelen die hij wél steunt

In plaats van een verbod noemt Amodei drie interventies die hij en Anthropic naar eigen zeggen al jaren consequent bepleiten. Ze delen één kenmerk: geen van drieën verbiedt een bedrijf om een open model te gebruiken.

Geen krachtige chips naar China. Geen verkoop van krachtige chips of chipmachines, plus een harde aanpak van de smokkel en omwegen waarmee die alsnog worden verkregen. De redenering: China heeft beperkte eigen productiecapaciteit en kan door de schaalwetten zonder Amerikaanse chips geen krachtigere modellen bouwen dan de VS.

Aanpak van industriële distillatie. Distillatie is veel rekenzuiniger dan een model vanaf nul trainen. Volgens Amodei levert het China geen gelijkwaardige of betere capaciteit op dan de VS, maar kan het de Chinese frontier wel tot binnen een paar maanden van de Amerikaanse brengen. Anthropic sluit zelf accounts die daarvoor worden gebruikt, en tekent aan dat die vaak pas te herkennen zijn nadat er al fors gedistilleerd is.

Verplichte veiligheidstests voor open én gesloten modellen. Elk voldoende capabel model zou vóór release getest moeten worden op cyber-, biologische en alignment-risico's. Minder capabele modellen, zoals die van startups en academische groepen, blijven wat hem betreft volledig buiten schot. Om te werken zou zo'n regime wereldwijd moeten gelden, schrijft hij, en dus ook China moeten omvatten.

Waar hij de brief niet volgt

Met veel uit de open-weight-brief zegt Amodei het eens te zijn: open gewichten vergroten de toegang tot de AI-economie, versterken de concurrentie voor een deel van de toepassingen en geven klanten meer controle. Twee stellingen wijst hij af. Dat open gewichten het per definitie makkelijker maken om beveiliging te bouwen, en dat brede toegang tot capaciteiten verdedigers meer helpt dan aanvallers. Het omgekeerde acht hij minstens even waarschijnlijk, met biologie als voorbeeld: een voldoende capabel model zou een virus met pandemisch potentieel snel kunnen bewapenen met breed beschikbare materialen, terwijl verdediging daartegen in het beste geval een operatie van jaren is.

Ondertekenen deed hij niet. De brief telt inmiddels vijftig namen, van Meta en Google tot Hugging Face, Ollama en Fireworks, en Anthropic blijft ook na deze verklaring van de lijst weg.

Van categorie naar drempel

De vraag verschuift van de categorie naar de drempel: niet of een model open is, maar of het capabel genoeg is om een keuring te verdienen. De drie maatregelen grijpen allemaal boven je eigen infrastructuur in, bij de chipleverancier, bij het lab dat distilleert en bij de test vóór release. Wat ze veranderen is niet of je een model mag draaien, maar het tempo waarin de beste open modellen verschijnen en de tijd tussen aankondiging en beschikbaarheid.

Daarmee komt de positie van de bekendste criticus dicht bij de richting die Washington zelf al lijkt te kiezen, waar beperkingen per Chinees model als serieuzer scenario gelden dan een breed verbod. Wat het niet oplost, is de vraag waar je open model vandaan komt: open gewichten halen je uit de Amerikaanse afhankelijkheid en zetten je onder een Chinese jurisdictie. Een verbod dat er niet komt, maakt die afweging niet kleiner.