Coinbase halveert zijn AI-rekening met Chinese modellen en slimme routing

Coinbase heeft zijn AI-rekening bijna gehalveerd terwijl het tokenverbruik juist omhoogschiet. Topman Brian Armstrong maakte deze week concrete cijfers publiek: de grootste Amerikaanse cryptobeurs stuurt zijn AI-verkeer steeds vaker naar goedkope Chinese open-weight modellen, met een routerings- en cachesysteem dat per vraag bepaalt welk model het werk doet. Het is geen losse anekdote maar een uitgewerkt draaiboek, en precies de rekensom die ook in Nederlandse organisaties begint te spelen nu AI-budgetten hard oplopen.

Wat Coinbase precies deed

De kern is dat Coinbase de standaardkeuze heeft omgedraaid. Via een interne LLM-gateway draaien taken nu standaard op open-weight modellen, met Z.ai's GLM 5.2 en Moonshots Kimi 2.7 voorop, terwijl een engineer voor specifiek werk altijd nog een ander model mag kiezen. Het systeem analyseert elke prompt vooraf en wijst de taak toe op basis van de cache-hitkans en de prijs van het model. Zware planning en redenering mogen naar een duur frontier-model, maar uitvoerende taken hoeven dat niet, en die maken het leeuwendeel van het verkeer uit.

De resultaten zijn fors. De AI-uitgaven daalden met bijna de helft terwijl het aantal verbruikte tokens juist groeide. De cache-hitratio van Coinbase' interne chattool sprong van 5% naar 60%, wat betekent dat een groot deel van de antwoorden niet opnieuw door een betaald model hoeft. En 91% van de medewerkers raakte nooit aan de oude verbruikslimiet, dus de besparing kwam niet door mensen op rantsoen te zetten.

De methode telt, niet het merk

De verleiding is om hier de conclusie 'stap over op Chinese modellen' uit te halen. Dat is de verkeerde les. De winst zit in de discipline eromheen, en die vatte Armstrong scherp samen: de sleutel tot kostenbeheersing is niet het verbruik van medewerkers inperken of voortdurend budgetherinneringen sturen, maar de standaard-modelkeuze, de taakroutering en de cachestrategie optimaliseren, aldus Armstrong over hoe Coinbase de kosten omlaag bracht. Het doel, zegt hij, is niet zo min mogelijk tokens verbruiken, maar verspilde tokens eruit halen en de infrastructuur zo bouwen dat exponentiele groei betaalbaar blijft.

Dat dit nu kan, komt doordat de goedkope modellen sterk genoeg zijn geworden. Armstrong voorspelde een paar weken geleden al dat binnen 12 tot 18 maanden 80% van de werklasten zou draaien op modellen die 99% goedkoper zijn, en met deze stap brengt hij die voorspelling in de praktijk. De onderbouwing is er ook: GLM-5.2 klopt GPT-5.5 op meerdere coding-benchmarks tegen ongeveer een zesde van de prijs, en het open codeermodel Kimi K2.7 duikt fors onder de tokenprijzen van GPT-5.5 en Claude. Coinbase staat bovendien niet alleen: ook softwarebedrijf Snowflake test Chinese modellen en de AI-startup Lindy schakelde over op DeepSeek V4.

Wat betekent dit voor jouw bedrijf

Je hebt de schaal van Coinbase niet nodig om hetzelfde principe toe te passen. De aanpak is in essentie een kleine verbouwing van je AI-stack in drie stappen. Meet eerst waar je tokens heen gaan, zodat je weet welke taken het budget opslokken. Stuur daarna routinematig en uitvoerend werk naar een goedkoper of open model, en bewaar het dure topmodel voor de taken die echt complex redeneren vragen. Voeg ten slotte caching toe, zodat herhaalde vragen niet telkens opnieuw worden afgerekend.

De diepere les is dat blind leunen op een enkele dure leverancier een kostenrisico is geworden. Een leverancier-onafhankelijke stack waarin je per taak het best passende open-weight model kiest geeft je de ruimte om mee te bewegen met prijsdalingen in plaats van eraan vast te zitten. Let daarbij wel op je data: een Chinees model in de cloud is prima voor ongevoelig werk, maar voor vertrouwelijke gegevens wil je weten waar ze heen gaan, en is een self-hosted open model of een Europees alternatief de veiligere route.

De winst van Coinbase komt niet uit een goedkoper abonnement, maar uit het serieus nemen van waar elke token naartoe gaat. Dat is geen exclusieve luxe voor techreuzen: het is een kwestie van je AI-gebruik meten, slim routeren en herhaling hergebruiken, en dat is voor elk bedrijf met een oplopende AI-rekening haalbaar.