Oracle plant SambaNova SN50-inferentie op OCI

Oracle en SambaNova plannen SN50-inferentie op OCI voor agentische AI; SambaNova claimt maximaal 5× snelheid en 3× lagere totale eigendomskosten, maar Oracle noemt geen startdatum of regio.

Een Nederlands productteam dat AI-agenten op Oracle Cloud draait, krijgt vandaag nog geen nieuwe capaciteit om in te plannen of te budgetteren. De SN50 is gericht op het genereren van tokens tijdens meerstaps AI-taken. Oracle noemt geen OCI-startdatum, regio of tarief.

De SN50-levering is nog geen OCI-datum

In de release van 27 oktober zegt Oracle de SambaRack SN50-systemen zelf in zijn datacenters te willen hosten en de capaciteit aan AI-bouwers te leveren. De samenwerking richt zich op inferentie, de fase waarin een model antwoorden of uitvoertokens genereert.

SambaNova had bij de introductie van de SN50 een klantlevering in de tweede helft van 2026 aangekondigd. Het bedrijf beschrijft een SambaRack met 16 SN50-chips en een gemiddeld stroomverbruik van 20 kilowatt. Die productplanning bevestigt niet dat Oracle de systemen al heeft geïnstalleerd of dat klanten ze als cloudcapaciteit kunnen boeken.

Een chip die aan klanten wordt geleverd is iets anders dan een OCI-instance die via een cloudconsole of verkoopkanaal te bestellen is. De aankondiging specificeert niet welke Oracle-regio’s de SN50 krijgen, hoe capaciteit wordt gereserveerd of wat een uur of een miljoen uitvoertokens kost.

De snelheidsclaims missen een OCI-tarief

SambaNova positioneert de SN50, zijn vijfde generatie AI-accelerator, voor agentische inferentie. De eigen vergelijking met NVIDIA Blackwell B200 claimt meer dan drie keer zoveel token-doorvoer bij agentische inferentie. Llama 3.3 70B is een van de genoemde testmodellen. Dezelfde productpagina zegt dat de SN50 individuele modellen tot 10 biljoen parameters en contexten tot 10 miljoen tokens aankan. Dat zijn maxima op de chipproductpagina, geen OCI-specificaties; Oracle noemt geen modelconfiguratie voor de clouddienst.

De productgrafiek voor Llama 3.3 70B gebruikt FP8, een 8-bits rekenformaat voor AI. Hij zet B200-doorvoer per GPU naast geschatte SN50-doorvoer per chip. Het is een vergelijking die SambaNova zelf publiceert, geen onafhankelijke meting van een OCI-configuratie. De aankondiging geeft ook geen rekensom of vergelijkingsbasis voor het voordeel van drie keer lagere totale eigendomskosten. Daardoor kan een inkoper die besparing niet vertalen naar de eigen kosten per taak.

De 20 kilowatt per rack geeft wel een indicatie van de stroomvraag aan de datacenterkant. Als een rack onafgebroken gemiddeld 20 kilowatt trekt, komt dat neer op 480 kilowattuur per dag, nog zonder koeling en overige datacenterlasten. SambaNova zegt dat het verbruik inzet in bestaande luchtgekoelde datacenters mogelijk maakt. Voor een OCI-klant blijft de uiteindelijke rekening afhankelijk van een tarief en de hoeveelheid werk die de instance afhandelt.

SN50 krijgt een eigen plek in de inferentie

De partners beschrijven een verdeling van inferentiewerk: GPU’s verwerken de prompt, terwijl de SN50 de decodefase uitvoert en de uitvoertokens genereert. Promptverwerking en tokengeneratie belasten hardware op verschillende manieren. Bij een AI-agent die een taak opsplitst in meerdere modelaanroepen, telt de tijd voor iedere nieuwe uitvoer mee bij de totale wachttijd.

Die verdeling over chips is ook elders aangekondigd. AWS en Cerebras beschreven in maart een Bedrock-opzet waarin Trainium de prompt verwerkt en Cerebras CS-3 de uitvoertokens genereert. Hun aankondiging noemde de dienst toen als toekomstig. De twee plannen gebruiken verschillende chipcombinaties; de aankondigingen geven geen gelijke benchmark waarmee hun prestaties of kosten naast elkaar kunnen worden gezet.

OCI heeft verschillende beschikbaarheidsdata

Positron Atlas is beschikbaar op OCI. Oracle’s Positron Atlas-instance is nu beschikbaar en gebruikt acht accelerators voor modellen tot 500 miljard parameters, naast de nog geplande SN50-capaciteit.

De Google-TPU’s starten volgens Oracle in kalenderjaar 2027 en schalen daarna over meerdere jaren op. Oracle zegt dat Snowflake AI Data Cloud als native OCI-dienst beschikbaar komt, met Oracle voor prijs en facturering, maar de startdatum voor Snowflake op OCI blijft onbekend. Oracle en Cerebras plannen hun OCI-inferentiedienst voor 2027. Oracle noemt ook een plan voor OpenAI’s Jalapeño-inferentiechips, zonder OCI-datum. Het AI World-overzicht noemt NVIDIA Vera Rubin NVL72 en Vera CPU algemeen beschikbaar, maar waarschuwt dat timing en prijzen van toekomstige producten kunnen veranderen.

Voor een Nederlandse inkoper zijn een OCI-startdatum per regio en een tarief per taak de volgende bruikbare gegevens. SambaNova’s leveringsdoel voor klanten valt in de tweede helft van 2026, terwijl Oracle geen regio, tarief of boekbare capaciteit noemt. Met die gegevens en een toetsbare benchmark kan een team de kosten en wachttijd op een eigen agent-workload vergelijken.