Gartner: inferentiekosten per agentische AI-workflow vervijfvoudigen tot 2028

De inferentiekosten per agentische AI-workflow vervijfvoudigen tot 2028, voorspelt Gartner in een persbericht van 17 augustus, terwijl de prijs per token gewoon blijft dalen.

Voor een Nederlands bedrijf dat agents in productie heeft, verschuift daarmee de eenheid waarin je moet rekenen. Op de begroting staat nu meestal een tarief per miljoen tokens: een getal dat je bij je leverancier kunt opzoeken en dat al twee jaar zakt. Gartner zegt in feite dat dat getal steeds minder over je factuur zegt, omdat niet het tarief beweegt maar het aantal stappen dat een agent per opdracht zet. Wie op tokenprijs begroot, begroot op de enige variabele die de goede kant op gaat.

Drie krachten eten de prijsdaling op

Gartner noemt drie trends die tegelijk spelen. De kostprijs van basismodellen verbetert snel. Juist die efficiëntie maakt het aantrekkelijk om zwaardere en duurdere modellen in te zetten voor waardevoller, complexer werk. En dat complexere werk verstookt veel meer tokens dan een chatgesprek. Netto worden tokens goedkoper, maar niet zo snel als de mogelijkheden en de kosten daarvan toenemen.

"Productleiders kunnen een efficiëntere tokeneconomie niet gebruiken om hun AI-kosten goed te praten", zegt Will Sommer, Sr. Director Analyst bij Gartner. "Elke volgende generatie AI-capaciteit vraagt meer, en vaak duurdere, tokens. Er is geen betrouwbaar, zuinig model in zicht dat overal op past."

Dat verschijnsel doopt Gartner de inferentieparadox: betere kosten per eenheid die de totale AI-rekening juist opjagen, zonder een helder pad naar navenante waarde. De cijfers achter de voorspelling maken het concreet. Geavanceerde redenerende agents kosten per taak tot 150 keer meer dan een basischatbot, en ze hebben 5 tot 30 keer meer tokens nodig voor vergelijkbaar werk. De hardware om een middelgroot agentmodel met redeneervermogen te trainen kost 2,5 keer zoveel als voor een even grote chatbot. Gartner bouwde er een tokenomics-model voor over twaalf modeltypen en komt uit op een verschil van 8 tot 10 keer tussen een basisworkflow en een taak waarin het model plant en leert. Ondertussen verwacht het bureau dat de kosten per token tot 2030 met 95 procent dalen. Sommer en collega-analist Sabine Zimmerhansl vatten die kloof samen als een tokendeflatie-illusie: kopers nemen aan dat de besparingen van aanbieders vanzelf op hun eigen begroting landen, en dat gebeurt niet.

Van prijs per token naar kosten per afgeronde taak

De markt beweegt intussen precies zoals Gartner beschrijft. Bij de Amerikaanse labs zakte de prijs per miljoen tokens sinds midden juli bijna een kwart, en toch dalen de facturen niet mee. Microsoft mat bij een upgrade naar Claude Sonnet 5 dat het tokenverbruik op code- en architectuurtaken tot twaalf keer kon oplopen. Modelbouwers beginnen daarom zelf in de nieuwe eenheid te praten: Writer bracht deze maand Palmyra X6 uit met 52 procent lagere kosten per agenttaak terwijl het tarief per token juist omhoog ging.

Bain leverde in juni de terugblik bij hetzelfde patroon: de tokenprijs halveerde tussen december 2024 en december 2025 terwijl het verbruik 4,5 keer hoger lag. Gartner zet daar nu een vooruitblik naast, met een factor en een einddatum.

Routeren in plaats van standaard het zwaarste model

Rendement halen uit redenerende agents kan volgens Gartner op twee manieren: uitzonderlijk veel meer opbrengst per taak, of scherp gekalibreerde inferentie. Dat tweede noemt het bureau inference-tiering, en het komt neer op werk toewijzen aan het goedkoopste model dat de klus aankan, met routering en orkestratie eromheen in plaats van één model voor alles. "Wie standaard kiest voor generieke autonome intelligentie, krijgt onbegrensde kosten die orden van grootte hoger liggen dan die van geoptimaliseerde productecosystemen", zegt Sommer.

Goedkoop is dat niet. Sommer stelt dat een concurrerend AI-product vraagt om het bouwen en onderhouden van complexe ecosystemen met meerdere modellen naast elkaar, en dat kost engineeringtijd die je nu vaak nog in prompts steekt. Voor een kleiner team begint het bij de basis: harde budgetlimieten per agent, prompt caching en een routeringstabel van taak naar model.

Gartner voorspelde eerder al dat vier op de tien organisaties hun AI-agents terugschroeven of uitzetten vanwege technische problemen, en dat minstens de helft van de generatieve-AI-projecten door zwakke architectuurkeuzes en gebrek aan expertise over het budget gaat. De kostenvoorspelling van deze week legt daar de rekening onder.

De voorspelling gaat dan ook niet over een prijsstijging, maar over een verschuiving in wat je koopt: niet één antwoord op één vraag, maar een reeks stappen die het model zelf uitzet. Zolang die reeks langer wordt, is elke aankondiging over goedkopere tokens tegelijk waar en irrelevant voor de factuur. De organisaties die hier over twee jaar niet door verrast worden, zijn de organisaties die vandaag al kunnen zeggen wat één afgeronde workflow kost.