Inference-kosten

Anthropic bevestigt dat het een eigen siliciumteam opbouwt om maatwerkchips voor Claude te ontwerpen, met vacatures tot 485.000 dollar. Chips van AWS, Google, Nvidia en AMD blijven volgens het bedrijf centraal staan.

AWS en Superblocks laten door AI gebouwde interne apps volledig binnen de eigen cloudomgeving van de klant draaien. Data, opslag en modelaanroepen blijven binnen de beveiligingsgrens, en een router kiest per taak het goedkoopste model.

Microsoft zet het Chinese open-weight model Kimi K3 op Azure en onderzoekt of het Copilot-functies kan overnemen die nu op OpenAI en Anthropic draaien. The Information becijfert de mogelijke besparing op tot 600 miljoen dollar.

Google werkt aan Frozen v2, een inference-chip die delen van Gemini in het silicium legt en per token zes tot tien keer zuiniger zou zijn dan zijn huidige AI-chips. Wat dat betekent voor wie AI op Google Cloud draait.

AMD daagt Nvidia voor het eerst op systeemniveau uit met Helios, een rack-schaal AI-systeem van 72 versnellers, en strikt Microsoft als afnemer voor Azure. Hoe groot die afname is, maakten beide bedrijven niet bekend.

Nvidia en LangChain brachten een open agent-stack uit rond het model Nemotron 3 Ultra. In hun eigen benchmark draait die tien keer goedkoper dan het dichtstbijzijnde gesloten model. Wat betekent dat, en hoe hard is de claim?

Wat kost Microsoft Copilot Cowork? Je betaalt per verbruik in Copilot Credits, 0,01 dollar per credit, op basis van model, context, tool-aanroepen en looptijd. Het is voor Microsoft de eerste prijsbreuk in zo'n twintig jaar.