Akamai opent bèta voor AI-inference en Agent Sandbox

Akamai opent op 27 oktober de bèta van Akamai Inference en Agent Sandbox, twee diensten voor modelservering en geïsoleerde uitvoering van door AI-agents geschreven code op Akamai Cloud, meldt het bedrijf.

Een Nederlands softwareteam kan modelinference uitbesteden zonder zelf GPU-capaciteit te beheren, en agentcode in een runtime met standaard geblokkeerd uitgaand verkeer laten draaien. De inferentiebèta is gratis, maar productieprijzen ontbreken. De diensten zijn dus al testbaar, terwijl de uiteindelijke rekening nog niet volledig is door te rekenen.

Twaalf modellen, twee manieren om te rekenen

Akamai Inference is een beheerde dienst voor open-weight- en eigen modellen. Applicaties roepen ze aan via een OpenAI-compatibele API; Akamai regelt GPU’s, modelservering, automatisch opschalen en modelbeheer. Bestaande toepassingen kunnen meestal overstappen met een andere basis-URL en API-sleutel. De ondersteuning voor tool calling en gestructureerde uitvoer verschilt per model.

Bij de start telt de catalogus twaalf open modellen van 8 miljard tot 2,8 biljoen parameters, waaronder NVIDIA Nemotron 3 Ultra, OpenAI gpt-oss-120b en Google Gemma 4. Er zijn ook embeddingmodellen om antwoorden aan bedrijfsdocumenten te koppelen. Akamai voegt Blackwell Ultra-clusters toe: een node met acht GPU’s heeft volgens het bedrijf 2,3 terabyte HBM3e-geheugen. Ondersteuning voor NVIDIA Vera Rubin staat voor 2027 gepland. Dit zijn opties voor teams die modellen willen tunen of op gereserveerde hardware willen draaien, geen garantie dat ieder model overal beschikbaar is.

Serverless Inference deelt GPU-capaciteit en schaalt mee met wisselende vraag; Dedicated Inference reserveert GPU’s voor één klant. De bèta is gratis; daarna rekent serverless per miljoen invoer- en uitvoertokens en Dedicated per GPU-uur, per minuut zolang een endpoint is ingericht, ook tijdens ongebruikte tijd. Die route is beperkt beschikbaar. Akamai zegt prompts en antwoorden niet te bewaren of voor modeltraining te gebruiken, maar de exacte tarieven zijn nog niet gepubliceerd.

De sandbox begrenst code die een agent schrijft

Akamai Agent Sandbox draait op Akamai Functions met Spin en WebAssembly-isolatie; gegenereerde JavaScript- of Python-code krijgt een tweede, beperktere runtime en uitgaand verkeer staat standaard uit. Ontwikkelaars kunnen netwerktoegang en rekenlimieten instellen. De Spin SDK is open source en Akamai zegt dat de applicatie over zijn cloudregio’s kan worden uitgerold.

De huidige technische preview richt zich op agents die in stappen werken. Elke stap duurt volgens de productpagina ongeveer een minuut, waarna de agent stopt tot een volgende instructie. Onderdelen om sessiestatus te bewaren, zodat agents dagen of weken doorwerken, staan nog gepland. Dat beperkt welke bestaande agenttaken er direct in passen. De pagina vraagt om toegang en noemt de dienst een tech preview.

Google kiest een microVM voor dezelfde uitvoeringslaag

De vergelijking met Google gaat over agentuitvoering, niet over modelkwaliteit. Google kondigde op 22 oktober Agent Compute Engine aan: iedere Gemini-agent krijgt een hardware-geïsoleerde microVM met eigen gastkernel, opslag en identiteit. Inactieve sessies kunnen pauzeren en hervatten. Google zegt dat de preview in de komende maanden volgt en noemt nog geen prijs of regio’s.

Akamai plaatst de sandbox in WebAssembly en begrenst daarbinnen specifiek de code die een agent genereert. Google beschrijft een hardwaregrens rond de hele agentsessie. Docker zegt dat dezelfde microVM-grens geldt op de laptop en op beheerde cloudinfrastructuur; de cloud-sandbox laat een agent doorwerken nadat de laptop dichtgaat. De cloudroute vraagt een apart gebruiksabonnement en rekent per seconde; Docker markeert zijn cloudplatform als experimenteel en rekent gebruik af op basis van tijd en capaciteit.

Dat zijn verschillende technische grenzen, geen onderlinge beveiligingstest. De openbare productpagina’s geven geen onafhankelijke cijfers waarmee teams prestaties of beveiliging naast elkaar kunnen leggen. De keuze gaat voorlopig over waar agentcode draait, hoe lang een taak mag lopen en wie de runtime beheert.

Bèta is beschikbaar, productievoorwaarden blijven open

Akamai’s aankondiging noemt beide diensten beschikbaar in bèta. De productpagina’s vragen om toegang; voor inference is serverless de genoemde bèta-optie. Voor Blackwell B300-clusters verwijst Akamai naar het salesteam. De Sandbox-pagina beschrijft een technische preview, niet een langlopende runtime. De aankondiging geeft dus een route om de techniek te proberen, maar geen automatische toegang tot elke GPU-configuratie of productiefunctie.

Akamai’s productpagina zegt dat de inference-bèta gratis is en noemt daarna twee meters: tokens voor gedeelde capaciteit en GPU-uren voor gereserveerde capaciteit, inclusief tijd waarin een ingericht endpoint niets doet. Tarieven, concrete bètaregio’s en servicetoezeggingen ontbreken. In de geraadpleegde aankondigingen staat geen onafhankelijke prestatiescore bij de belofte dat uitvoering dicht bij gebruikers latency verlaagt.

De stap past bij Akamai’s eerdere uitbreiding van edge-cloud naar modelservering en agentcode. Google zet daar een beheerde microVM-runtime naast; Docker biedt een andere cloudroute voor dezelfde uitvoeringsvraag. Voor Nederlandse organisaties is de technische keuze zichtbaar, maar een zakelijke vergelijking wacht op tarieven, regio’s en productievoorwaarden.