Thinking Machines brengt Inkling Small uit met een kwart van de parameters

Thinking Machines Lab bracht op 30 juli Inkling Small uit, een open-weight model van 276 miljard parameters dat volgens het bedrijf dicht in de buurt komt van het vier keer zo grote Inkling.

Het verschil zit in de machine eronder. Om Inkling, het model van 975 miljard parameters dat het bedrijf twee weken eerder vrijgaf, zelf te draaien heb je in gekwantiseerde NVFP4-vorm ongeveer 600 GB videogeheugen nodig, oftewel acht H200-kaarten. Voor Inkling Small zakt dat naar 180 GB, twee H200's of één B300. De prijs per miljoen uitvoertokens volgt dezelfde lijn: in de kostenvergelijking van het bedrijf 1,20 dollar, tegen 4,05 dollar voor het grote model.

Beter op code en redeneren, zwakker op parate kennis

Op de tests die Thinking Machines zelf publiceert wint het kleine model op de meeste onderdelen van zijn grote broer. Op de codeer-benchmark SWEBench Verified scoort Inkling Small 80,2 procent tegen 77,6 procent, op GPQA Diamond 89,5 tegen 87,2 procent en op Humanity's Last Exam 31,6 tegen 29,7 procent. Alleen op de wiskundeolympiade-set AIME 2026 blijft het grote model voor, met 97,1 tegen 95,5 procent. Van de 276 miljard parameters zijn er per token maar 12 miljard actief, tegen 41 miljard bij Inkling.

Meetbureau Artificial Analysis komt op hetzelfde beeld uit. Inkling Small haalt 40 punten op de Intelligence Index, één punt onder Inkling, met minder dan een derde van de parameters. Er is één duidelijke zwakte: op parate feitenkennis zakt het kleine model naar 31 procent correcte antwoorden, tegen 40 procent voor Inkling. Voor een toepassing die eerst in je eigen documenten zoekt en de feiten dus zelf aanlevert, weegt dat licht. Voor een assistent die uit het hoofd moet antwoorden, weegt dat zwaar.

Wat dit doet met de rekensom van zelf hosten

De gewichten staan onder de Apache 2.0-licentie op Hugging Face, samen met een zuinigere NVFP4-variant, en het model is bij te trainen via Tinker, het betaalde platform waar Thinking Machines zijn geld mee verdient. Commercieel gebruik is daarmee vrij. De rekening zit in het ijzer eronder.

Twee H200-kaarten zijn nog altijd geen kantoorserver: reken op tienduizenden euro's aan hardware, of op huur per uur bij een GPU-aanbieder. Het omslagpunt waarop eigen ijzer goedkoper wordt dan een open-weight API ligt pas rond de 15 tot 20 miljoen tokens per dag, een volume dat de meeste Nederlandse bedrijven bij lange na niet halen. Wat wel verandert, is de drempel. Een organisatie die om dataresidentie of privacy zelf wil draaien, hoeft daar geen cluster van acht kaarten meer voor vrij te maken, en een fine-tune op eigen data past nu op hardware die je nog kunt overzien.

De open-modelrace gaat over efficiëntie, niet over omvang

Twee weken tussen een model van 975 miljard parameters en eentje van 276 miljard dat er nauwelijks voor onderdoet: dat tempo zegt iets over waar de winst nu zit. Niet in meer parameters, maar in hoeveel er per token echt aan het werk gaan. Inkling Small heeft bovendien iets minder uitvoertokens nodig per taak dan Inkling zelf, terwijl modellen op hetzelfde intelligentieniveau er doorgaans fors meer verstoken.

Daarmee verschuift het criterium waarop je een open-weight model kiest. Niet de plek op een ranglijst bepaalt je kosten, maar wat een model per afgeronde taak aan rekenkracht en tokens opsoupeert. Dat is precies waarom een eigen mini-benchmark op je eigen taken zwaarder weegt dan een algemene ranglijst. Thinking Machines verdient niets aan het model zelf: hoe kleiner en goedkoper het te draaien is, hoe meer partijen het gaan fijnslijpen op Tinker. Die prikkel wijst voor het eerst in een tijd dezelfde kant op als het belang van de bedrijven die het model gebruiken.