NVIDIA en Oracle maken Vera Rubin beschikbaar op OCI

NVIDIA maakt Vera Rubin NVL72 en Vera CPU algemeen beschikbaar op Oracle Cloud Infrastructure, melden de bedrijven; Oracle wil zijn AI-superclusters op termijn uitbreiden naar meerdere gigawatts.

Dat opent voor Nederlandse teams een cloudroute voor modeltraining, inferentie en AI-agenten zonder eerst zelf een rack te bouwen. De Oracle-regiopagina geeft geen regio-opgave voor Vera Rubin en de openbare OCI-prijslijst noemt geen Rubin-tarief. Daardoor blijft open waar Europese klanten de capaciteit kunnen boeken en wat het gebruik kost.

De AI-rack wordt een OCI-dienst

De algemene beschikbaarheid betreft het Vera Rubin NVL72-systeem en de nieuwe Vera CPU. Een NVL72-rack verbindt 72 Rubin-GPU’s via NVLink, NVIDIA’s verbinding tussen de GPU’s in het rack. OCI’s opstelling combineert Spectrum-X Ethernet-netwerken, Spectrum-6-switches en BlueField-4-dataprocessorkaarten (DPU’s) met Oracle’s Acceleron-netwerk. De volledige opstelling vraagt om datacenters met voeding en vloeistofkoeling op gigawattschaal.

Oracle zegt de uitbreiding op meerdere gigawatts te plannen. Dat is een schaalplan, geen mededeling dat die hele capaciteit nu al operationeel is. De nieuwe Rubin-generatie komt naast de bestaande GB200- en GB300-NVL72-systemen op OCI. NVIDIA zegt dat de gedeelde CUDA-softwarebasis workloads over hardwaregeneraties heen moet laten meegroeien.

De stap van rackontwerp naar cloudroute bouwt voort op eerder werk aan de infrastructuur. NVIDIA deelde via MGX 1.2 vloeistofgekoelde Vera Rubin-rack- en compute-trayontwerpen voor OCP. In de OCP-aankondiging staat dat de rackconfiguratie tot 250 kilowatt ondersteunt. Die specificatie helpt bouwers bij stroom, koeling en trays, terwijl OCI klanten de systemen als clouddienst aanbiedt.

Op 21 oktober presenteerde NVIDIA DSX POD als manier om Rubin-racks fabrieksmatig te integreren en te testen. Het bedrijf zegt dat aansluiting op een voorbereide locatie van zes maanden naar slechts veertien dagen kan gaan. De veertien dagen gelden pas wanneer stroom, koeling en netwerk al klaar zijn, niet vanaf de bouw van een lege locatie.

Oracle plant daarnaast een kleinere Rubin-configuratie voor bestaande x86-toepassingen. De aangekondigde HGX Rubin NVL8 krijgt acht Rubin-GPU’s, twee 64-core Intel Xeon 6-processoren, 4 TB DDR5-geheugen en 6,4 Tbps RDMA-netwerk. Dit platform staat nog op de routekaart; de bedrijven hebben het niet als algemeen beschikbaar aangekondigd. Oracle geeft voor de geplande NVL8 twee 64-core Xeon 6-processoren, 4 TB DDR5-geheugen en 6,4 Tbps RDMA-netwerk op.

Vera CPU pakt het werk tussen modelaanroepen

Een agent doet meer dan tekst genereren. Tussen modelaanroepen door voert hij code uit, haalt hij gegevens op en roept hij gereedschap aan. Dat werk vraagt vooral CPU-capaciteit. Als die taken achterlopen, wacht ook de GPU voordat het model verder kan. OCI laat klanten daarom CPU- en GPU-resources onafhankelijk schalen, zodat agentwerk niet automatisch dezelfde verhouding aan rekenkracht krijgt als modeltraining.

Oracle noemt een eerste inzet van 150.000 Vera-CPU’s op OCI en claimt voor Rubin tot 30 keer meer inferentiedoorvoer per watt en vier keer hogere trainingsprestaties dan de vorige Blackwell-generatie. Het bedrijf positioneert de processor voor agentorkestratie, toolgebruik en afgeschermde uitvoering van AI-gegenereerde code. Oracle Kubernetes Engine kan CPU en GPU afzonderlijk opschalen; Acceleron moet hardware-isolatie bieden voor niet-vertrouwde code.

Die CPU-laag raakt ook de responstijd van toepassingen die meerdere handelingen achter elkaar uitvoeren. Een snellere GPU alleen vertelt dan weinig over de totale taakduur: ophalen uit een database, code testen en een antwoord verwerken gebeuren ook tussen de modelstappen. De inzet van Vera CPU geeft OCI-gebruikers dus een extra infrastructuurkeuze voor de delen van een agent die niet door de taalmodel-GPU worden uitgevoerd.

De prestatiecijfers zijn tests, geen tarieven

Oracle’s blog noemt bij die prestatieclaims geen model, invoerlengte of meetopstelling. De cijfers geven geen verwachte snelheid voor een specifieke Nederlandse toepassing.

NVIDIA claimt een tiende van de kosten per miljoen tokens van een GB200-NVL72 voor Kimi K2-Thinking met 32.000 invoer- en 8.000 uitvoertokens. Dat is een rekensom voor die specifieke model- en werklast, geen OCI-uurtarief. De pagina vermeldt ook dat prestaties kunnen veranderen.

De aangekondigde cijfers laten zien welke efficiëntie Oracle en NVIDIA nastreven, maar de rekening van een cloudgebruiker hangt ook af van het cloudtarief, de bezetting en het aantal tokens dat een toepassing verwerkt. Die prijs ontbreekt in de OCI-aankondiging. Ook de regio’s waar Vera Rubin en Vera CPU geboekt kunnen worden, staan er niet bij. Een Nederlands team kan de gemelde efficiëntie dus nog niet rechtstreeks naar maandkosten of datalocatie vertalen.

Oracle kondigt ook AMD Helios aan

Op dezelfde dag kondigde Oracle een tweede rackroute voor OCI aan. Het bedrijf beschrijft AMD Helios als een rack met 72 Instinct MI455X-GPU’s, maximaal 31 TB HBM4-geheugen en 1,7 petabyte per seconde aan totale piekgeheugenbandbreedte. Oracle richt die configuratie op grootschalige training, inferentie en fijnafstemming. De blog bevat geen directe prijs- of prestatietest naast Vera Rubin.

De aankondigingen verbreden daarmee de infrastructuurkeuze voor cloudklanten: Rubin-GPU’s voor training en inferentie, Vera CPU voor het agentwerk ertussen en een parallelle AMD-route in ontwikkeling. De voorafgaande OCP-rackontwerpen en DSX POD-plannen laten zien hoeveel stroom, koeling en installatie daarachter zitten. Voor Nederlandse kopers blijft de volgende beslisbare stap afhankelijk van twee concrete gegevens die de aankondiging openlaat: de OCI-regio’s met capaciteit en het tarief per gebruikseenheid.