Concept

Modelrouting

systeem dat per prompt het meest geschikte model selecteert op basis van kosten en cache

Nieuws· 2

AT&T verlaagt kosten van AI-taken met 56 procent via open modellen

Nieuws

4 min

21 aug 04:09

AT&T verlaagt kosten van AI-taken met 56 procent via open modellen

AT&T stuurt vragen van medewerkers via een LiteLLM-router naar open modellen en verlaagde de kosten van codeer- en andere AI-taken met tot 56 procent, bij 2 procent kwaliteitsverlies. De uitgaven aan Anthropic en OpenAI blijven bevroren.

Coinbase halveert zijn AI-rekening met Chinese modellen en slimme routing

Nieuws

6 min

28 jun 16:26

Coinbase halveert zijn AI-rekening met Chinese modellen en slimme routing

Coinbase bracht zijn AI-kosten bijna omlaag met de helft terwijl het tokenverbruik juist steeg. Topman Brian Armstrong deelt het draaiboek: Chinese open modellen, taakroutering en caching in plaats van budgetlimieten.