Kostenbesparing bij AI-inferentie

Anthropics goedkopere Opus 5 heeft topmodel Fable 5 voorbij in zakelijke bestedingen, meldt de Financial Times. Fable 5 blijft steken op ongeveer 11 procent van wat bedrijven bij Anthropic uitgeven.

AT&T stuurt vragen van medewerkers via een LiteLLM-router naar open modellen en verlaagde de kosten van codeer- en andere AI-taken met tot 56 procent, bij 2 procent kwaliteitsverlies. De uitgaven aan Anthropic en OpenAI blijven bevroren.

AI-abonnementen worden snel duurder terwijl de prijs per token nauwelijks meedaalt. Steeds meer bedrijven schuiven routinetaken naar goedkopere open-weight of Chinese modellen om hun budget te rekken.