AMD lanceert EPYC 9006 voor AI- en bedrijfsservers

EPYC 9006-systemen komen voor AI- en bedrijfsservers beschikbaar; AMD meldt dat serverfabrikanten SP7-platformen verzenden en het 9996-model tot 3,3 keer meer agenten per CPU-watt dan Nvidia Vera ondersteunt.

Voor Nederlandse cloud- en datacenterteams verandert het beslismoment: de processor staat niet langer alleen in een geplande racktekening, maar in systemen die leveranciers al verzenden. Teams kunnen concrete configuraties, prijzen en prestatietests opvragen. Cloudtoegang loopt per aanbieder anders.

SP7-systemen verzenden, cloudtoegang verschilt

De concrete serverlevering betreft de SP7-lijn. Cloudaanbod loopt per aanbieder in andere fasen. Microsoft zette Azure HDv2 op 10 november in preview. De virtuele machines bevatten volgens Microsoft meer dan 500 fysieke cores, 3,8 terabyte DDR5-8800-geheugen, 30 terabyte NVMe-opslag en 400 gigabit netwerkcapaciteit. Microsoft zegt dat een HDv2-machine ongeveer tweemaal zoveel agent-sandboxes tegelijk kan draaien als het beste vergelijkbare aanbod en tot 1,7 keer zoveel agenttaken kan verwerken. Die prestatiecijfers zijn voorlopige metingen. Klanten kunnen previewtoegang aanvragen, maar Microsoft noemt geen prijs of beschikbare regio’s.

Oracle beschrijft OCI Compute E7 als een toekomstige cloudinstantie met 6e generatie EPYC voor agentregie, gelijktijdige agent-sandboxes, zoeken in kennisbronnen en geheugencaches. Oracle noemt E7 nog steeds “upcoming” en zegt dat de productrichting geen vaste leverdatum toezegt. De OCI-aankondiging noemt nog geen algemene beschikbaarheidsdatum of tarief. Een server die bij een fabrikant wordt verzonden, is dus iets anders dan cloudcapaciteit die elke klant vandaag kan inzetten.

De 9006-lijn verdeelt capaciteit over rollen

SiliconANGLE telt tien processoren in de EPYC 6-lijn, verdeeld over varianten met veel lager geklokte cores en modellen met minder cores op hogere frequenties. De hoogfrequente varianten hebben 96 cores en kunnen tot 5,3 gigahertz boosten. De dichtste modellen lopen op tot 256 cores. De productlijn maakt dus verschillende afwegingen tussen kernenaantal en kloksnelheid, geen enkele configuratie voor elke taak.

Het topmodel EPYC 9996 heeft 256 Zen 6c-cores en 512 threads per socket. AMD’s productpagina noemt die capaciteit en legt uit dat agentenaantallen op threadcapaciteit worden geschat. De voetnoot zegt dat werkelijke capaciteit afhangt van model, geheugen, software, orkestratie en serverconfiguratie. Het is geen meting van afgeronde bedrijfstaken.

Een aparte AMD-rackvergelijking gebruikt twee-socketservers binnen een budget van 100 kilowatt. De Vera-prestaties zijn daarin afgeleid door resultaten van Nvidia Grace met factor 1,63 op te schalen. AMD noemt de uitkomst richtinggevend, niet een directe rackmeting. De methodiek combineert gepubliceerde resultaten met interne tests en projecties. Dat maakt de verhouding een startpunt voor een eigen meting, geen voorspelling voor een specifiek datacenter.

AMD zet een server met twee EPYC 9996-processoren in zijn testtabel op 5.470 SPECrate-punten en een prijsreferentie van 14.904 dollar bij een volume van 1.000 eenheden, tegenover 13.955 dollar en 2.510 punten voor twee Xeon 6980P-processoren. Het opgegeven standaardvermogen is 600 watt per EPYC-processor en 500 watt per Xeon. Dit zijn CPU-prijzen bij een volume van duizend stuks, geen complete serverofferte of cloudtarief. AMD vermeldt dat de Vera-score een eigen schatting is en dat resultaten variëren met systeemconfiguratie, software en BIOS.

De Helion-blauwdruk raakt nu aan een leverbaar onderdeel

In oktober beschreef AMD Helion als een open OCP-blauwdruk voor AI-agentracks waarvan partnerconfiguraties nog in ontwikkeling waren. Dat verhaal ging over het rackontwerp en de keuze tussen agentuitvoering op CPU’s of een combinatie met lokale GPU-inferentie. De nu verzonden SP7-systemen maken de CPU-basis concreter, maar betekenen niet dat elke Helion-configuratie al als compleet rack te bestellen is.

AMD’s eerdere Helios-productieverhaal koppelde achttien EPYC Venice-processoren aan 72 Instinct MI455X-versnellers in één rack. Die systeemaanpak richtte zich op een complete AI-machine met GPU’s, netwerk en software. De EPYC-lancering van november is een afzonderlijke stap: processorplatformen komen beschikbaar terwijl cloud- en rackproducten hun eigen leveringsstatus houden.

De benchmark hangt af van de meetmethode

Nvidia zet Vera eveneens neer als CPU voor AI-agenten. In een eigen bericht meldt Nvidia dat tests bij Los Alamos Vera ruim driemaal sneller lieten werken dan de x86-processoren van de Crossroads-supercomputer op de simulatiesoftware Branson. Het noemt ook zeven keer op URSA-workloads. Dat zijn resultaten op specifieke wetenschappelijke taken, geen rechtstreekse vergelijking met AMD’s tests.

Phoronix publiceerde op de lanceringsdag onafhankelijke Linux-tests van de EPYC 9996 over honderden benchmarks. De resultaten verschillen per OpenVINO-taak: Xeon 6980P was het snelst op enkele doorvoertests, terwijl EPYC-modellen andere herkennings- en inferentietaken wonnen. De benchmarkwinnaar wisselt per model en meetdoel. Die tests meten geen volledige agentketen binnen een bedrijf.

De concrete verschuiving is dat AMD’s CPU-keuze van aankondiging naar verzendbare servers gaat. Azure HDv2 vraagt nog previewtoegang en OCI E7 blijft toekomstig aanbod. De prijs, regionale beschikbaarheid en prestaties op eigen software bepalen hoeveel capaciteit in de praktijk bruikbaar is. Tot die gegevens er zijn, zeggen cores, watt en benchmarkverhoudingen vooral welke systemen teams kunnen gaan testen.