Rijen zwarte serverracks in een datacenter.
Nieuws15 oktober · 12:335 min leestijd

StepFun zet de gewichten van Step 5 Preview online

StepFun publiceert de BF16-gewichten van Step 5 Preview. De bestanden beslaan 1,21 TB en de officiële configuratie vraagt acht B300-GPU's of zestien H200-GPU's, naast specifieke licentievoorwaarden.

StepFun zet op 15 oktober de BF16-gewichten van Step 5 Preview online, zodat organisaties het model naast de bestaande API ook in een eigen infrastructuur kunnen draaien.

StepFun noemt voor BF16 acht B300-GPU's op één node of zestien H200-GPU's verdeeld over twee nodes. De openbare BF16-repository beslaat 1,21 TB. Daarmee raakt de modelkeuze voor een Nederlandse organisatie meteen ook hardware, beheer en licentievoorwaarden.

De API-preview wordt een download

Bij de lancering op 20 september bood StepFun het model via een API aan. Het bedrijf kondigde de gewichten voor 15 oktober aan bij die previewlancering. De preview combineerde 600 miljard parameters, 27 miljard actieve parameters per token en een contextvenster van één miljoen tokens. De modelkaart houdt die specificaties aan. De download maakt de tweede route beschikbaar.

De officiële BF16-repository bevat 24 genummerde gewichtsshards en aanvullende bestanden voor beeldverwerking en snellere tokenvoorspelling, samen 1,21 TB. De README is op 15 oktober bijgewerkt; de shardcommits dateren ongeveer 25 dagen terug. Dat maakt de bestanden nu publiek, maar betekent niet dat alle shards vandaag zijn geüpload.

StepFun beschrijft een architectuur met 92 transformerblokken en Sparse GQA. Het model wisselt drie lagen Gated Sliding Window Attention af, die een kleiner deel van de context bekijken, met één sparse laag die over de hele context zoekt. StepFun presenteert dit als aanpak voor lange contexten; de blog bevat geen onafhankelijke prestatietest.

De API houdt de instap laag

De API blijft beschikbaar. StepFun rekent 1 dollar per miljoen inputtokens bij cache-miss, 10 cent bij hit en 2,70 dollar per miljoen outputtokens. Een hit hergebruikt eerdere invoer; een miss doet dat niet. Output omvat redeneerstappen en antwoord. Een verzoek met 100.000 inputtokens en 10.000 outputtokens kost zonder cache-hit 12,7 dollarcent: 10 cent invoer plus 2,7 cent uitvoer.

Zelf hosten verschuift de kosten naar hardware, stroom en beheer. StepFun noemt voor BF16 acht B300-GPU's of zestien H200-GPU's; FP8 kan op vier B300's of acht H200's. Contextlengte en gelijktijdige gebruikers beïnvloeden de capaciteit. Een eerdere kostenvergelijking schatte een omslagpunt op 15 tot 20 miljoen tokens per dag tegenover een open-weight-API, maar gebruikte andere modellen en hardware.

Op Vercels AI Gateway waren open-weightmodellen in augustus 56 procent van de tokens en 14 procent van de geschatte uitgaven; de gemiddelde tokenprijs daalde er 23,2 procent. Dit zijn cijfers van Vercels gateway, geen volledige marktmeting. Ze laten zien dat veel tokenvolume zelf hosten niet vanzelf goedkoper maakt.

De licentie maakt het gebruik specifieker

De bestanden vallen onder de StepFun Model License 1.0: royaltyvrij en wereldwijd, maar met aanvullende voorwaarden naast Apache 2.0. Voor een aanbieder die het model alleen intern gebruikt, geldt de omzetdrempel niet zolang model, afgeleiden, uitvoer en mogelijkheden niet aan derden beschikbaar komen.

Hardwarefabrikanten en merkeigenaren moeten vooraf een aparte overeenkomst sluiten als ze modelmogelijkheden als apparaat- of dienstfunctie aanbieden. Voor een MaaS-aanbieder geldt dit wanneer de gezamenlijke omzet van het bedrijf en gelieerde ondernemingen, uit alle bronnen, boven 20 miljoen dollar komt in een aaneengesloten periode van twaalf maanden. Bij meer dan 100 miljoen actieve gebruikers óf meer dan 20 miljoen dollar omzet in één kalendermaand moet het product voortaan prominent “Powered by StepFun AI” vermelden.

Een model dat materieel is getraind op Step 5-uitvoer geldt volgens de licentie als afgeleid werk. Doorleveranciers moeten daarom licentie en verplichte vermeldingen controleren. Voor inzet in een apparaat, externe dienst of doorgeleverde toepassing bepaalt het gebruik mede welke toestemming nodig is.

De scorekaart vraagt om een eigen proef

Step 5 haalt 67,7 op DeepSWE v1.1 en 80,5 op ProgramBench. Kimi K3 Max staat in dezelfde kaart op respectievelijk 67,5 en 77,8. Op FrontierFinance noteert Step 5 66,4, tegenover 69,7 voor Claude Opus 5 Max. De resultaten betreffen softwareontwikkeling en agenttaken, maar komen niet allemaal uit dezelfde testopzet.

StepFun-scorekaart met resultaten voor softwareontwikkeling, agenttaken en financiële benchmarks. Bron: StepFun
StepFun-scorekaart met resultaten voor softwareontwikkeling, agenttaken en financiële benchmarks. Bron: StepFun

De modelkaart vermeldt dat Step 5 op High is getest en de genoemde concurrenten op Max. Voor DeepSWE noemt StepFun de SWE-agent-harness en specifieke samplinginstellingen; die methodedetails staan niet bij elk resultaat. GDPval-AA v2.1 is gebaseerd op Artificial Analysis-data van 20 september. Een verschil van 0,2 punt op DeepSWE is daardoor geen algemene rangorde voor eigen processen.

De introductie op de modelkaart noemt tekst, afbeeldingen en video als invoer, maar de specificatietabel vermeldt alleen tekst en afbeeldingen. De inzetdocumentatie beperkt het miljoen tokens tot invoer en uitvoer samen en zegt dat haalbare context en gelijktijdigheid afhangen van de KV-cache, het tijdelijke geheugen voor die context. Een test op eigen taken en hardware blijft nodig om te bepalen wat een productieopstelling aankan.

De release maakt van Step 5 een keuze tussen API-facturatie en een eigen GPU-cluster. Bij zelf hosten komen capaciteitsplanning, toegangsbeheer en de Model License 1.0 op tafel vóór de eerste productieaanroep.

Veelgestelde vragen

Alisina Nawabi
Geschreven doorAlisina Nawabi

AI Product Engineer & Solutions Architect

Van modelkeuze naar eigen AI

Ik denk mee over API of zelf hosten, ontwerp de toepassing en realiseer en automatiseer het traject. Waar dat kan, richt ik de omgeving self-hosted in en neem ik de koppelingen en het beheer mee.

Meer informatie

Dit artikel is geproduceerd samen met het Agent Team. Meer over de redactie.

Gerelateerde artikelen

StepFun presenteert Step 5 Preview met context van 1 miljoen tokens
Nieuws
4 min

20 sep 12:15

StepFun presenteert Step 5 Preview met context van 1 miljoen tokens

StepFun presenteert Step 5 Preview met 600 miljard parameters, 27 miljard actieve parameters per token en 1 miljoen tokens context. De aangekondigde gewichten op 15 oktober maken API versus zelf hosten concreet.

Open modellen halen 62 procent van het tokenverkeer op Vercels AI Gateway
Nieuws
5 min

24 aug 02:11

Open modellen halen 62 procent van het tokenverkeer op Vercels AI Gateway

Op 22 augustus liep 62 procent van alle tokens op Vercels AI Gateway over open modellen, tegen 28,4 procent in juni. De uitgaven volgen die verschuiving niet: daar houdt Anthropic de meerderheid vast.

Amerikaanse AI-labs verlagen tarieven, tokenindex een kwart lager
Nieuws
5 min

15 aug 06:10

Amerikaanse AI-labs verlagen tarieven, tokenindex een kwart lager

Klanten van OpenAI en Anthropic betalen sinds midden juli bijna een kwart minder per miljoen tokens. Anthropic schrapte bovendien een verhoging die op 1 september zou ingaan, terwijl de topmodellen onveranderd duur blijven.

Thinking Machines brengt Inkling Small uit met een kwart van de parameters
Nieuws
4 min

31 jul 04:11

Thinking Machines brengt Inkling Small uit met een kwart van de parameters

Thinking Machines Lab brengt Inkling Small uit: 276 miljard parameters, een kwart van Inkling, met vrijwel dezelfde prestaties. Zelf draaien vraagt nu 180 GB videogeheugen in plaats van 600 GB.

Open-weightmodellen verkorten achterstand op Amerikaanse frontier tot 4,4 maanden
Nieuws
4 min

16 sep 14:14

Open-weightmodellen verkorten achterstand op Amerikaanse frontier tot 4,4 maanden

Mozilla meet de achterstand tussen open-weight- en gesloten AI-modellen op 4,4 maanden. De prijs-prestatieverhouding verschuift, maar hardware, hosting en professioneel kenniswerk blijven bepalend voor modelkeuze.

Meta lanceert Muse Spark 1.3 met 25 procent minder tokens
Nieuws
5 min

3 sep 00:10

Meta lanceert Muse Spark 1.3 met 25 procent minder tokens

Meta brengt Muse Spark 1.3 uit met volgens eigen metingen 20 procent minder toolaanroepen en 25 procent minder tokens dan versie 1.2, tegen dezelfde prijs. Wat dat scheelt op de rekening van een codeeragent.