Close-up van een computerchip met een AI-processor op een printplaat
Nieuws9 juli · 04:254 min leestijd

Nvidia's open agent-stack draait tien keer goedkoper in LangChains eigen benchmark

Nvidia en LangChain brachten een open agent-stack uit rond het model Nemotron 3 Ultra. In hun eigen benchmark draait die tien keer goedkoper dan het dichtstbijzijnde gesloten model. Wat betekent dat, en hoe hard is de claim?

Nvidia en LangChain lanceerden op 8 juli een open agent-stack rond het open model Nemotron 3 Ultra die in LangChains eigen benchmark tien keer goedkoper draait dan het dichtstbijzijnde gesloten topmodel.

De inzet zit in de rekensom onder AI-agents. Wie vandaag een agent in productie zet die redeneert, tools aanroept en zichzelf evalueert, betaalt per stap voor inferentie, en die kosten stapelen snel op zodra je meerdere agents draait of continu wilt testen. Een open model dat vergelijkbaar presteert tegen een fractie van die kosten verschuift de afweging: voor een Nederlands bedrijf dat AI-agents overwoog maar op de gebruikskosten afhaakte, komt een serieuze opzet ineens binnen bereik. Belangrijke kanttekening vooraf: het gaat om een benchmark van de leveranciers zelf.

De cijfers achter de claim

In LangChains eigen agent-benchmark haalde Nemotron 3 Ultra een score van 0,86 tegen 4,48 dollar per evaluatie, terwijl het dichtstbijzijnde presterende model 43,48 dollar kostte, grofweg tien keer lager, oftewel zo'n negentig procent goedkoper voor vergelijkbare prestaties. Dat is het getal waarop de hele aankondiging leunt.

Die uitkomst verdient nuance. De test komt van LangChain en Nvidia zelf, niet van een onafhankelijke partij, en de score is behaald na aanpassingen die LangChain specifiek voor Nemotron 3 Ultra maakte in de manier waarop de agent tools gebruikt en context beheert. Welk gesloten model het dichtstbijzijnde was, en volgens welke methode, maakt de aankondiging niet openbaar. Cloudaanbieders als Crusoe herhalen dezelfde tien-keer-verhouding, maar leunen op precies dat ene cijfer. Kortom: een reeel, maar door de aanbieder geframede vergelijking.

Een open stack in plaats van een gesloten API

De stack heet NemoClaw en combineert drie open onderdelen: het open model Nemotron 3 Ultra, LangChains Deep Agents en Nvidia's OpenShell-runtime. Het idee is dat een bedrijf de hele agent-opzet, van geheugen tot afgestemde werkwijze, in eigen beheer houdt in plaats van die kennis af te staan aan een gesloten cloud. "Super agents zijn er," zei Nvidia-topman Jensen Huang bij de lancering, met het argument dat elk bedrijf met een open model en zijn eigen data een agent kan bouwen die de eigen processen snapt.

De blueprint is per direct beschikbaar op Nvidia's build-platform en draait op inference-aanbieders als Baseten, Crusoe, Nebius, DeepInfra, Fireworks en Together AI. Bedrijven als Box, EY, Amdocs en Abridge worden genoemd als vroege gebruikers. Dat sluit aan op een bredere beweging: gespecialiseerde inference-partijen die open modellen goedkoper draaien dan de gesloten API's van OpenAI en Anthropic, waar een klant al dertig procent lagere kosten meldde.

Het hoofdkantoor van Nvidia in Santa Clara, Californie (bron: Coolcaesar / Wikimedia Commons, CC BY-SA 4.0)
Het hoofdkantoor van Nvidia in Santa Clara, Californie (bron: Coolcaesar / Wikimedia Commons, CC BY-SA 4.0)

Waar de verschuiving naartoe wijst

De kern van het nieuws is niet dat een open model in een enkele test op prijs wint, maar dat de rekenkosten van bruikbare AI-agents hard blijven dalen. Daarmee verschuift de concurrentie van 'welk model is het slimst' naar 'hoe goedkoop draai je een model dat goed genoeg is, en wie bezit de gewichten'. Dezelfde open Nemotron-modellen die Palantir air-gapped en soeverein laat draaien met de gewichten in eigen beheer staan nu in een kant-en-klare agent-opzet. Voor bedrijven die tot nu toe standaard naar een gesloten API grepen, wordt de open route elke maand een concreter alternatief, mits je de leveranciersbenchmark met een korrel zout neemt en zelf test op je eigen taken.

Veelgestelde vragen

Alisina Nawabi
Geschreven doorAlisina Nawabi

AI Product Engineer & Solutions Architect

Agents die je zelf bezit

Een open model tien keer goedkoper draaien klinkt mooi, maar de winst zit in de opzet eromheen: het geheugen, de koppelingen en de werkwijze. Ik denk met je mee, ontwerp en bouw dat hele agent-traject end-to-end, self-hosted waar dat kan, zodat je grip en data in eigen huis blijven.

Meer informatie

Dit artikel is geproduceerd samen met het Agent Team. Meer over de redactie.

Genoemde integraties

Dit artikel noemt deze tools. Ik koppel ze op maat aan je eigen systemen.

Gerelateerde artikelen

Nvidia ruilt AI-rekenkracht voor een deel van je omzet in plaats van kapitaal vooraf
Nieuws
5 min

2 jul 10:40

Nvidia ruilt AI-rekenkracht voor een deel van je omzet in plaats van kapitaal vooraf

Nvidia biedt AI-startups sinds 1 juli een omzetdelingsmodel: snellere toegang tot rekenkracht zonder grote investering vooraf, in ruil voor een percentage van je clouddiensten. Handig, maar het verdiept de afhankelijkheid van een enkele leverancier.

Siemens en Renault spreiden hun AI-leveranciers na de VS-restricties
Nieuws
5 min

22 jun 16:40

Siemens en Renault spreiden hun AI-leveranciers na de VS-restricties

Op VivaTech vertelden topmensen van Siemens, Renault en Orange aan Reuters dat ze hun AI bewust over meerdere leveranciers verdelen. De Amerikaanse rem op Anthropic versnelde die strategie hoorbaar.

Microsoft steekt 2,5 miljard in 'Frontier Company' die AI-engineers ín je bedrijf plaatst
Nieuws
6 min

2 jul 16:10

Microsoft steekt 2,5 miljard in 'Frontier Company' die AI-engineers ín je bedrijf plaatst

Microsoft lanceert The Microsoft Frontier Company: 2,5 miljard dollar en 6.000 mensen die AI-systemen bij klanten bouwen en draaien. Twee dagen na AWS' vergelijkbare stap wordt de uitrol van AI het nieuwe slagveld.

Palantir en Nvidia draaien open Nemotron-modellen air-gapped: soevereine AI als product
Nieuws
5 min

1 jul 08:23

Palantir en Nvidia draaien open Nemotron-modellen air-gapped: soevereine AI als product

Palantir en Nvidia lanceerden een engine om Nvidia's open Nemotron-modellen in air-gapped, soevereine omgevingen te draaien. De kern: eigen data en eigen gewichten in plaats van een gesloten cloud, precies de afweging die ook Nederlandse organisaties nu maken.

OpenAI onthult met Broadcom zijn eerste eigen AI-chip: Jalapeno
Nieuws
5 min

24 jun 16:35

OpenAI onthult met Broadcom zijn eerste eigen AI-chip: Jalapeno

OpenAI en Broadcom onthulden Jalapeno, de eerste eigen AI-chip van OpenAI, speciaal gebouwd voor inferentie. De chip moet de kosten van AI omlaag brengen en de afhankelijkheid van Nvidia verkleinen.

Baseten haalt naar verluidt 1,5 miljard op: open modellen draaien wordt een goedkoper alternatief voor OpenAI en Anthropic
Nieuws
4 min

19 jun 00:18

Baseten haalt naar verluidt 1,5 miljard op: open modellen draaien wordt een goedkoper alternatief voor OpenAI en Anthropic

Baseten haalt naar verluidt 1,5 miljard dollar op bij een waardering tot 13 miljard. Het bedrijf draait open-source modellen als goedkoper alternatief voor OpenAI en Anthropic, een teken dat managed inference volwassen wordt.