Google bouwt inference-chip Frozen v2 die Gemini in silicium bakt

Google werkt aan een eigen inference-chip, Frozen v2, die delen van het Gemini-model rechtstreeks in het silicium legt en per verwerkt token naar verluidt zes tot tien keer zuiniger is dan Googles huidige eigen AI-chips, meldt vakblad The Information op basis van ingewijden.

Wie Gemini via Google Cloud of Vertex AI inzet, heeft geen chip nodig om de inzet te snappen: die zit in de rekenkosten. De prijs per token die je nu betaalt, wordt bepaald door het silicium eronder, en Google probeert zijn eigen model in maatwerk-hardware te bakken om die kostprijs structureel te drukken. Een prijsverlaging is het nog niet. De chip mikt op inzet vanaf 2028, en Google heeft de plannen zelf niet bevestigd.

Wat Frozen v2 precies is

Frozen v2 is bedoeld voor inference: de fase waarin een getraind model antwoorden genereert voor gebruikers, de stap die het meeste dagelijkse rekenwerk vraagt. Het bijzondere zit in de naam. De architectuur van Gemini wordt "bevroren" en deels in het silicium zelf vastgelegd, wat rekenstappen en dataverplaatsing scheelt. Ingenieurs kunnen het systeem daarna bijwerken met nieuwe modelgewichten, zonder de hardware opnieuw te ontwerpen.

De efficiëntiewinst is de kern van het verhaal, en meteen de claim om voorzichtig mee te zijn. De chip zou per verwerkt token zes tot tien keer zuiniger zijn dan Googles nieuwste eigen AI-chips, maar dat is een projectie en geen gemeten prestatie: ingenieurs sleutelen nog aan het ontwerp en aan de vraag hoeveel modelinformatie er precies in het silicium komt. Google zelf reageerde dat het regelmatig nieuwe manieren onderzoekt om AI efficiënter te maken, maar dat niet elk experiment een commercieel product wordt.

Belangrijk voor het juiste beeld: Frozen v2 vervangt de bestaande TPU's niet, maar komt ernaast als een gespecialiseerde optie voor Gemini-inference. Het is een interne datacenter-chip om Gemini goedkoper te bedienen op een moment dat Google zelf tegen een tekort aan AI-rekenkracht aanloopt, niet een kaart die je los koopt zoals een Nvidia-GPU. Of de chip later ook zakelijke Google Cloud-klanten gaat dienen, staat nog niet vast. Op het bericht stegen de Alphabet-aandelen maandag ruim een procent.

Een derde front tegen de rekenmarge

Op zichzelf is Frozen v2 een gerucht over één chip. Naast elkaar gelegd met de rest van deze zomer is het een patroon: de grote AI-spelers bouwen tegelijk uitwegen uit dezelfde afhankelijkheid. DeepSeek ontwikkelt een eigen chip voor inference om losser te komen van Nvidia en Huawei, en Amazon, Meta en Anthropic bouwen allemaal eigen silicium om niet langer aan Nvidia vast te zitten. Vanmiddag daagde AMD Nvidia op systeemniveau uit met het rack-schaal AI-systeem Helios, waarvoor Microsoft zich als Azure-afnemer meldde.

Google kiest binnen die beweging de meest verregaande route. Waar AMD een compleet systeem verkoopt en anderen algemene versnellers ontwerpen, giet Google zijn eigen model in de chip. Dat werkt alleen als je het model én de hardware in één hand hebt, en het bindt de winst rechtstreeks aan Gemini. De besparing landt eerst op Googles eigen rekening, niet op die van de klant.

Daar zit de betekenis voor wie AI inkoopt. De kostprijs van inference wordt steeds meer een functie van wiens maatwerk-silicium jouw model draait. Een model kiezen is dan niet alleen een keuze voor kwaliteit of prijs vandaag, maar voor een hardware-ecosysteem met eigen kosten, beschikbaarheid en leveranciersrisico. Frozen v2 is nog een belofte voor 2028, maar de richting is nu al af te lezen: de laag onder je AI verschuift van standaardonderdelen naar silicium dat op één model is gesneden.