Kostenvergelijking AI-inferentie

Bunq draait zijn assistent Finn op Kimi K3 en meldt dat een antwoord circa 60 procent kost van een antwoord met het beste gesloten model. Santander en Modulr koppelen modellen aan bankdata en betalingen.

Nvidia en LangChain brachten een open agent-stack uit rond het model Nemotron 3 Ultra. In hun eigen benchmark draait die tien keer goedkoper dan het dichtstbijzijnde gesloten model. Wat betekent dat, en hoe hard is de claim?