Close-up van een computerchip met een AI-processor op een printplaat
Nieuws9 juli · 04:254 min leestijd

Nvidia's open agent-stack draait tien keer goedkoper in LangChains eigen benchmark

Nvidia en LangChain brachten een open agent-stack uit rond het model Nemotron 3 Ultra. In hun eigen benchmark draait die tien keer goedkoper dan het dichtstbijzijnde gesloten model. Wat betekent dat, en hoe hard is de claim?

Nvidia en LangChain lanceerden op 8 juli een open agent-stack rond het open model Nemotron 3 Ultra die in LangChains eigen benchmark tien keer goedkoper draait dan het dichtstbijzijnde gesloten topmodel.

De inzet zit in de rekensom onder AI-agents. Wie vandaag een agent in productie zet die redeneert, tools aanroept en zichzelf evalueert, betaalt per stap voor inferentie, en die kosten stapelen snel op zodra je meerdere agents draait of continu wilt testen. Een open model dat vergelijkbaar presteert tegen een fractie van die kosten verschuift de afweging: voor een Nederlands bedrijf dat AI-agents overwoog maar op de gebruikskosten afhaakte, komt een serieuze opzet ineens binnen bereik. Belangrijke kanttekening vooraf: het gaat om een benchmark van de leveranciers zelf.

De cijfers achter de claim

In LangChains eigen agent-benchmark haalde Nemotron 3 Ultra een score van 0,86 tegen 4,48 dollar per evaluatie, terwijl het dichtstbijzijnde presterende model 43,48 dollar kostte, grofweg tien keer lager, oftewel zo'n negentig procent goedkoper voor vergelijkbare prestaties. Dat is het getal waarop de hele aankondiging leunt.

Die uitkomst verdient nuance. De test komt van LangChain en Nvidia zelf, niet van een onafhankelijke partij, en de score is behaald na aanpassingen die LangChain specifiek voor Nemotron 3 Ultra maakte in de manier waarop de agent tools gebruikt en context beheert. Welk gesloten model het dichtstbijzijnde was, en volgens welke methode, maakt de aankondiging niet openbaar. Cloudaanbieders als Crusoe herhalen dezelfde tien-keer-verhouding, maar leunen op precies dat ene cijfer. Kortom: een reeel, maar door de aanbieder geframede vergelijking.

Een open stack in plaats van een gesloten API

De stack heet NemoClaw en combineert drie open onderdelen: het open model Nemotron 3 Ultra, LangChains Deep Agents en Nvidia's OpenShell-runtime. Het idee is dat een bedrijf de hele agent-opzet, van geheugen tot afgestemde werkwijze, in eigen beheer houdt in plaats van die kennis af te staan aan een gesloten cloud. "Super agents zijn er," zei Nvidia-topman Jensen Huang bij de lancering, met het argument dat elk bedrijf met een open model en zijn eigen data een agent kan bouwen die de eigen processen snapt.

De blueprint is per direct beschikbaar op Nvidia's build-platform en draait op inference-aanbieders als Baseten, Crusoe, Nebius, DeepInfra, Fireworks en Together AI. Bedrijven als Box, EY, Amdocs en Abridge worden genoemd als vroege gebruikers. Dat sluit aan op een bredere beweging: gespecialiseerde inference-partijen die open modellen goedkoper draaien dan de gesloten API's van OpenAI en Anthropic, waar een klant al dertig procent lagere kosten meldde.

Het hoofdkantoor van Nvidia in Santa Clara, Californie (bron: Coolcaesar / Wikimedia Commons, CC BY-SA 4.0)
Het hoofdkantoor van Nvidia in Santa Clara, Californie (bron: Coolcaesar / Wikimedia Commons, CC BY-SA 4.0)

Waar de verschuiving naartoe wijst

De kern van het nieuws is niet dat een open model in een enkele test op prijs wint, maar dat de rekenkosten van bruikbare AI-agents hard blijven dalen. Daarmee verschuift de concurrentie van 'welk model is het slimst' naar 'hoe goedkoop draai je een model dat goed genoeg is, en wie bezit de gewichten'. Dezelfde open Nemotron-modellen die Palantir air-gapped en soeverein laat draaien met de gewichten in eigen beheer staan nu in een kant-en-klare agent-opzet. Voor bedrijven die tot nu toe standaard naar een gesloten API grepen, wordt de open route elke maand een concreter alternatief, mits je de leveranciersbenchmark met een korrel zout neemt en zelf test op je eigen taken.

Veelgestelde vragen

Alisina Nawabi
Geschreven doorAlisina Nawabi

AI Product Engineer & Solutions Architect

Agents die je zelf bezit

Een open model tien keer goedkoper draaien klinkt mooi, maar de winst zit in de opzet eromheen: het geheugen, de koppelingen en de werkwijze. Ik denk met je mee, ontwerp en bouw dat hele agent-traject end-to-end, self-hosted waar dat kan, zodat je grip en data in eigen huis blijven.

Meer informatie

Dit artikel is geproduceerd samen met het Agent Team. Meer over de redactie.

Genoemde integraties

Dit artikel noemt deze tools. Ik koppel ze op maat aan je eigen systemen.

Gerelateerde artikelen

Open-weight-brief aan Washington verdubbelt naar 50 ondertekenaars
Nieuws
4 min

26 jul 16:09

Open-weight-brief aan Washington verdubbelt naar 50 ondertekenaars

De open-weight-brief aan Washington telt nu 50 ondertekenaars, dubbel zoveel als bij publicatie. Google staat er alsnog op. Alleen Anthropic, Amazon en xAI blijven weg, en dat verschuift het politieke risico voor open modellen.

Nvidia wil met de Poolside-licentie een open-weight topmodel bouwen
Nieuws
5 min

23 aug 06:07

Nvidia wil met de Poolside-licentie een open-weight topmodel bouwen

Nvidia wil de licentiedeal van 6 miljard dollar met Poolside gebruiken om een van 's werelds krachtigste open-weight modellen te bouwen, meldt The Wall Street Journal. Wat dat verandert voor teams die nu op Chinese gewichten zelf hosten.

Ramp lanceert modelrouter Router.com, voorlopig alleen in de VS
Nieuws
4 min

21 aug 02:09

Ramp lanceert modelrouter Router.com, voorlopig alleen in de VS

Ramp lanceert Router.com, een API die elk AI-verzoek naar het goedkoopste geschikte model stuurt en volgens het bedrijf 40 procent inferentiekosten scheelt. Alleen te gebruiken in de VS, op Amerikaanse infrastructuur.

Nvidia werkt aan open Nemotron 4 met minstens een biljoen parameters
Nieuws
4 min

12 aug 02:22

Nvidia werkt aan open Nemotron 4 met minstens een biljoen parameters

Nvidia werkt volgens The Information aan Nemotron 4, een open model van minstens een biljoen parameters. Er is geen releasedatum en Nvidia bevestigt de details niet, maar de hardwaredrempel om zelf te draaien groeit wel mee.

IBM bouwt inferentiecluster van 240 miljoen dollar waarop Together AI open modellen draait
Nieuws
4 min

11 aug 20:38

IBM bouwt inferentiecluster van 240 miljoen dollar waarop Together AI open modellen draait

IBM bouwt voor Together AI een inferentiecluster van 240 miljoen dollar op IBM Cloud, met ongeveer 2.000 Nvidia Blackwell-chips in de Verenigde Staten. De capaciteit komt naar verwachting in het eerste kwartaal van 2027 beschikbaar.

Nvidia en SK Group kondigen AI-plan van 500 miljard dollar aan
Nieuws
5 min

25 jul 04:10

Nvidia en SK Group kondigen AI-plan van 500 miljard dollar aan

Nvidia en SK Group presenteren een AI-plan van meer dan 500 miljard dollar, met ruim 2 gigawatt aan datacenters en een langjarige geheugendeal. Wat dat bedrag precies is, en wat het doet met de prijs van AI-capaciteit.