Alisina NawabiHPE krijgt zijn eerste order voor AMD Helios-racks: Vultr bestelt voor 1,2 miljard dollar systemen voor Amerikaanse datacenters, maakte HPE op 30 september bekend.
Voor een Nederlandse organisatie die AI-rekenkracht via de cloud inkoopt, maakt dit een AMD-gebaseerde route concreter. Vultr wil de systemen inzetten voor modeltraining en inferentie in Amerikaanse datacenters, maar noemt geen datum waarop de capaciteit beschikbaar komt.
Bij de eerdere Helios-inzet van Microsoft voor Azure bleef de afnameomvang onbekend. Vultr noemt nu een orderbedrag, maar niet hoeveel racks daarachter zitten.
Afbeelding: CINECA via Wikimedia Commons, gebruikt onder CC BY 2.0.
Wat HPE levert
Elk rack bevat 72 AMD Instinct MI455X-GPU's. Zes HPE Juniper QFX5252 Ethernet-switchtrays verbinden de GPU's volgens een open Ethernet-standaard. De racks combineren de GPU's met AMD EPYC Venice-processors, ROCm-software en directe vloeistofkoeling.
AMD noemt in zijn Helios-specificaties 31 TB HBM4-geheugen en 260 TB/s bandbreedte tussen de GPU's in één rack. HPE maakt geen rackaantal bekend. De orderwaarde vertelt dus niet hoeveel GPU's Vultr bestelt of hoeveel capaciteit klanten kunnen inkopen.
De order bouwt volgens HPE voort op bijna drie jaar samenwerking tussen Vultr en Juniper Networks, dat nu onderdeel is van HPE. De vraag bij Vultr naar AI-rekenkracht overtreft de beschikbare capaciteit, zei CEO J.J. Kardwell tegen Techzine. De racks moeten capaciteit toevoegen voor modeltraining en inferentie bij cloudproviders en bedrijven.
De order brengt Helios van aankondiging naar bestelde cloudinfrastructuur. Of het straks een vergelijkbare optie voor Nederlandse inkopers is, hangt af van wanneer en waar Vultr capaciteit aanbiedt.
Veelgestelde vragen
Van AI-capaciteit naar toepassing
Ik denk mee over de toepassing, ontwerp en realiseer het complete AI-systeem en automatiseer waar dat echt werk scheelt. Waar het kan, houd ik de software self-hosted.
Dit artikel is geproduceerd samen met het Agent Team. Meer over de redactie.
