Intel specificeert GPU D270-inferentiekaart met 160 GB geheugen

D270 krijgt op 12 oktober 160 GB LPDDR5X op Intels eigen kaart; ODM-partners kunnen versies tot 480 GB bouwen, meldt Intel tijdens de Open Compute Project (OCP) Global Summit.

De geheugengrens bepaalt hoeveel modelgewichten en context een organisatie tegelijk op één kaart kan houden. De PCIe-vorm is ontworpen voor bestaande datacenteromgevingen, maar Intel noemt geen prijs of verkoopdatum. Nederlandse inkopers krijgen dus een specificatie voor een volgende serverronde, geen kaart die ze nu kunnen bestellen.

De 480 GB hoort bij de ODM

D270 is de eerste kaart in Intels nieuwe GPU D-serie, eerder bekend als Crescent Island. Intel noemt 32 Xe3P-kernen en 256 XMX-matrixeenheden, met contexten tot 100.000 tokens en tientallen gelijktijdige sessies als ontwerpdoel. De opgegeven piek is 1,3 petaflops bij FP8, een 8-bits getalformaat voor AI-berekeningen. De kaart haalt volgens Intel 1,5 terabyte geheugenbandbreedte per seconde binnen een vermogenslimiet van 350 watt. Dat zijn technische maxima, geen gemeten snelheid op een bedrijfsmodel.

Het verschil tussen de twee geheugenvarianten is wezenlijk. De Intel-merkkaart bevat 160 GB LPDDR5X. ODM’s, bedrijven die kaarten voor andere merken ontwerpen en bouwen, kunnen uitvoeringen tot 480 GB maken. De aankondiging zegt dus niet dat de Intel-kaart zelf 480 GB heeft.

Intel koppelt de D-serie aan modellen tot 300 miljard parameters op één kaart en meer dan één biljoen parameters in een systeem met acht GPU’s. De aankondiging zegt niet welke geheugenvariant, modelprecisie of softwareconfiguratie bij die bovengrens hoort. Daarom is de claim geen maat voor wat een organisatie met de kaart van 160 GB direct kan draaien.

Geheugen helpt bij lange contexten

Bij inferentie staan zowel de modelgewichten als tijdelijke gegevens van gesprekken en prompts in geheugen. Lange contexten en meer gelijktijdige gebruikers vragen daardoor extra ruimte. Intel richt de kaart op precies die combinatie: lange prompts, grote modellen en veel gelijktijdige sessies.

Intel zegt dat grotere contexten zonder HBM (high-bandwidth memory) op de kaart kunnen blijven. Dat is Intels productpositionering, geen onafhankelijke test. Meer geheugen kan voorkomen dat je een model over meer kaarten verdeelt, maar bepaalt niet alleen hoe snel antwoorden verschijnen. Ook geheugenbandbreedte, model, precisie en software spelen mee.

De kaart gebruikt PCIe 5.0 x16 en is ontworpen voor luchtkoeling. Dat maakt aansluiting op een bestaand serverpark aannemelijker dan een systeem waarvoor een speciaal rack nodig is. Een standaard aansluiting garandeert alleen niet dat elke server geschikt is. De kaart is opgegeven op 350 watt; slot, voeding, ruimte en luchtstroom moeten kloppen. Ook moet het team vaststellen of de bestaande inferentiesoftware en drivers de kaart ondersteunen.

AMD kiest meer bandbreedte

De PCIe-kaart MI350P van AMD maakt het verschil in ontwerpkeuze zichtbaar. AMD specificeert voor de MI350P 144 GB HBM3E, 4 terabyte bandbreedte per seconde, 2,3 petaflops OCP-FP8 en maximaal 600 watt, instelbaar op 450 watt. D270 heeft volgens Intel 1,5 terabyte per seconde en 1,3 petaflops FP8; alleen de ODM-uitvoering gaat tot 480 GB geheugen.

Die piekcijfers zijn geen praktijktest tussen twee kaarten. Ze laten wel zien waar de ontwerpen hun ruimte zoeken: D270 biedt op papier meer geheugencapaciteit in een ODM-uitvoering en een lager opgegeven vermogen; AMD noemt meer FP8-rekenkracht en geheugenbandbreedte. De piekcijfers geven een vergelijkingspunt, maar niet de tokensnelheid voor jouw model of server.

Voor Nederlandse organisaties is er ook een lokale kaartroute. De Eindhovense Axelera AI verzendt Europa al als PCIe-kaart voor enterprise-inferentie. Het bedrijf noemt de Edge 232p beschikbaar in gevalideerde Dell XE5- en Supermicro 111AD-systemen. Axelera zegt dat Europa nu wordt verscheept; D270 is nog in de bemonsteringsfase.

De marktstart blijft open

Intel zegt dat klantbemonstering loopt en dat het met OEM’s, ODM’s, cloudbedrijven en softwareleveranciers werkt aan gevalideerde systemen. Het bedrijf noemt nog geen prijs, verkoopdatum, landen of concrete servermodellen. ServeTheHome beschrijft D270 als Intels eerste commerciële AI-datacenter-GPU sinds Ponte Vecchio in 2021, na het schrappen van Rialto Bridge en Falcon Shores, en verwacht levering in 2027. Die datum is een verwachting van de vakpublicatie, geen leverbelofte van Intel.

De planning sluit aan op een bredere verschuiving naar eigen inferentiehardware. Microsoft begint in 2027 met productie-inzet van Maia 300 als primaire inferentielaag voor eigen diensten. De huidige Maia 200 draait al in productie in de VS, Europa en Australië. Intel ontwikkelt intussen een losse PCIe-kaart voor serverbouwers en datacenterklanten.

Voor bedrijven die zelf inferentie willen draaien, komt de waarde van D270 uiteindelijk neer op de configuratie die werkelijk te koop komt. Daarvoor moeten Intel en zijn ODM-partners duidelijk maken welke kaart 160 GB of 480 GB krijgt, welke servers zijn gevalideerd en wat de prijs is. Tot die gegevens verschijnen, is 2027 de verwachte marktstart en blijft de aangekondigde 480 GB een maximum voor partnerontwerpen.