Multiverse brengt Comet 60B uit op basis van Nemotron 3.5

Comet 60B brengt het totale aantal parameters van NVIDIA’s Nemotron 3.5 Super VL terug tot ongeveer de helft en behoudt invoer voor tekst, beeld en video, meldt Multiverse op 15 oktober.

Een kleinere gewichtenset kan het benodigde aantal GPU’s verlagen voor teams die scans, beelden of videofragmenten op eigen infrastructuur willen verwerken. De gewichtsbestanden zijn 122,3 GB in BF16, 66,3 GB in FP8 en 40,5 GB in NVFP4. Voor een context van 256.000 tokens noemt de kaart twee H200-kaarten voor BF16.

De gewichtsreductie scheelt vooral geheugen

De naam is afgerond. De technische toelichting telt 61,1 miljard parameters in Comet, tegenover 124,5 miljard in Nemotron 3.5 Super VL. De BF16-bestanden zijn volgens Multiverse 122,3 GB en ongeveer 249 GB. Ook de NVFP4-download is kleiner: 40,5 GB voor Comet tegenover 75,1 GB voor de basisversie. De gewichten zijn maar een deel van het geheugenbudget; de actieve context en gelijktijdige verzoeken vragen ook ruimte.

Multiverse noemt voor een context van 256.000 tokens twee H200’s voor BF16, één H200 voor FP8 en één Blackwell B300 voor NVFP4. De modelkaart schat bij die configuraties ruimte voor respectievelijk 43, 20 en 85 gelijktijdige verzoeken van die lengte. Dat zijn metingen van de leverancier voor specifieke precisies en hardware. Ze voorspellen niet hoeveel verzoeken een ander serveersysteem aankan.

NVIDIA presenteerde Nemotron 3.5 Super VL zelf als een open model van 120 miljard parameters. De technische uitsplitsing van Multiverse telt 124,5 miljard voor de basis. De NVFP4-bestandenlijst van Nemotron 3.5 Super VL is 75,1 GB en noemt één H200 als ondersteunde opstelling, een concreter referentiepunt dan de afgeronde modelnaam.

Comet halveert het totaal, niet het werk per token

Nemotron gebruikt een mixture-of-expertsarchitectuur. Per token gaat een deel van het model aan het werk, terwijl alle modelgewichten in het geheugen moeten staan. Multiverse heeft het aantal beschikbare experts per MoE-laag teruggebracht van 512 naar 256. De route blijft 22 experts per token activeren. Daardoor daalt het actieve aantal parameters van 12,8 miljard naar 12,3 miljard, ongeveer vier procent. De totale hoeveelheid gewichten halveert dus veel sterker dan de actieve parameterlast.

CompactifAI zoekt eerst waar gewichten weinig extra informatie dragen, verwijdert daarna geselecteerde parameters en herstelt prestaties met distillatie vanuit het oorspronkelijke Nemotron-model. De training gebruikt teksttaken, meerstaps agenttrajecten, beeld en video, gevolgd door een GRPO-natraining voor agenttaken. De laagopbouw, tokenizer en chatindeling blijven volgens de toelichting behouden. Comet verwerkt tekst, beeld en video, maar geen audio.

NVIDIA werkt binnen dezelfde modelfamilie ook met kleinere inzet. Het bedrijf beschrijft Nemotron 3.5 Lightning als een 30B-model met 3B actieve parameters voor uitvoerwerk in langlopende agents. De 30 miljard totale en 3 miljard actieve parameters van Lightning, met NeMo Switchyard voor modelroutering laten zien hoe modelgrootte en taakverdeling naast elkaar worden ingezet. Comet richt zich op de multimodale variant van die keuze.

De benchmark bestaat uit losse scores

De aankondiging vat de nauwkeurigheid samen als binnen vijf procent van de basisversie. In de BF16-vergelijking van Multiverse vallen 22 van 28 scores binnen drie punten en 26 binnen vijf punten. De grootste verschillen zijn V*, waar Comet 5,8 punten lager uitkomt, en GDPval-AA, met 5,5 punten verschil. Op τ²-Bench Retail scoort Comet 85,09 tegenover 82,79 voor Nemotron; op Telecom is dat 79,28 tegenover 76,75.

In de BF16-vergelijking van Multiverse vallen 22 van 28 scores binnen drie punten en 26 binnen vijf, met afwijkingen van 5,8 en 5,5 punten op V* en GDPval-AA. Dezelfde pagina zegt dat de modellen dezelfde testopzet, prompts, beoordelaars en instellingen voor het genereren van antwoorden gebruikten. De basisversie draaide op vier H200-kaarten en Comet op twee. Een verschil onder drie punten kan volgens Multiverse tussen runs variëren; sommige tests gebruiken eigen beoordelaars of een andere evaluator dan NVIDIA.

De modelkaart vat een andere verzameling samen: daarin staat dat Comet op 28 van 35 scores binnen drie punten blijft. Die kaart zegt ook dat benchmarks en de serveeropdracht op vier H200-kaarten zijn uitgevoerd, terwijl de technische vergelijking de Comet-run op twee H200’s plaatst. De publicaties leggen het verschil tussen die aantallen niet uit. De benchmarkclaim blijft daarmee een leveranciersmeting, geen onafhankelijke bevestiging van prestaties op Nederlandse documenten of bedrijfsprocessen.

De gewichten hebben eigen licentievoorwaarden

De drie varianten zijn als gewichten op Hugging Face beschikbaar. De aankondiging noemt geen prijs voor een gehoste inferentiedienst. Het woord open source vertelt ook niet de hele licentiesituatie: de modelkaart plaatst de gewichten onder de NVIDIA Nemotron Open Model License en de meegeleverde modelcode onder Apache 2.0.

De licentie staat commercieel gebruik en afgeleide werken toe, maar stelt voorwaarden aan herverdeling en bevat een vrijwaringsbepaling. Voor intern gebruik, aangepaste gewichten en het doorleveren van een model gelden daardoor verschillende vragen. Een organisatie die Comet aan klanten wil aanbieden of zelf aangepaste gewichten wil verspreiden, moet de licentie van de gewichten en de code afzonderlijk meenemen.

Comet maakt de geheugenprofielen concreter: in de opstelling van Multiverse vraagt een volledige BF16-context twee H200-kaarten, terwijl NVFP4 op één B300 past. Het actieve aantal parameters blijft dicht bij dat van Nemotron. Voor Nederlandse teams verschuift de eerste proef daardoor naar de combinatie van eigen documenten, benodigde context en beschikbare GPU’s. De gepubliceerde benchmarkresultaten en licentie bepalen vervolgens of die proef ook bij de beoogde toepassing past.