Serverrack met groene statuslampjes.
Nieuws17 november · 10:585 min leestijd

OVHcloud kondigt eerste LLM Olala mini 7A1B aan

OVHcloud presenteert Olala mini 7A1B als eerste eigen taalmodel en zegt het op 19 november met open gewichten en Apache 2.0 te publiceren. De snelheidscijfers zijn concreet, maar een openbare kwaliteitsscore ontbreekt nog.

Olala mini 7A1B is het eerste model uit OVHclouds familie van taalmodellen; het bedrijf plant publicatie van de gewichten op 19 november en zegt dat Qwant het model gebruikt voor 20% snellere antwoorden.

Als de publicatie doorgaat, komt er voor Nederlandse organisaties een Europees model bij dat commercieel inzetbaar is en op eigen infrastructuur kan draaien. De Apache 2.0-licentie staat hergebruik, wijziging en distributie onder voorwaarden toe. Op 17 november staan de gewichten nog niet online, dus kunnen teams de uitvoering niet testen; de aankondiging noemt snelheden, maar geen onafhankelijke kwaliteitsscores.

Qwant gebruikt het model voor korte zoekantwoorden

Olala mini telt 7 miljard parameters, waarvan per verzoek 1 miljard actief is. Elke laag heeft 256 experts. De hybride architectuur combineert Differential-TPA en Mamba-3. OVHcloud zegt dat dit geheugen spaart: het model zou draaien op een GPU met 8 GB. Het bedrijf noemt 160 tokens per seconde op een RTX A4500, 50 op een gewone processor en een contextvenster van 32.000 tokens.

Volgens OVHcloud gebruikt Qwant Olala mini voor Réponse Flash, de korte antwoorden boven zoekresultaten. OVHcloud zegt dat antwoorden daar 20% sneller verschijnen en dat de gebruikskosten een derde zijn van die van het vorige model. Het noemt dat model niet en publiceert geen kosten per zoekopdracht. Daardoor ontbreken voor een zakelijke vergelijking de prijs per miljoen tokens, de hardwareconfiguratie en een test met dezelfde antwoordkwaliteit.

OVHcloud zegt dat het model is getraind op drie openbare Europese supercomputers: Jupiter in Duitsland, MeluXina in Luxemburg en Jean Zay in Frankrijk. OVHcloud schat de waarde van de publieke rekensteun op 7 miljoen euro aan computertijd. Bij publicatie zegt het bedrijf ook de gewichten, een voorgetraind basismodel, een technisch rapport en documentatie over de AI Act te delen. Volgens de planning verschijnen de gewichten op Hugging Face; de officiële lancering staat gepland tijdens de OVHcloud AI Summit op 19 november.

De JUPITER-supercomputerkasten bij Forschungszentrum Jülich. Bron: Forschungszentrum Jülich / Sascha Kreklau / Wikimedia Commons (CC BY 4.0)
De JUPITER-supercomputerkasten bij Forschungszentrum Jülich. Bron: Forschungszentrum Jülich / Sascha Kreklau / Wikimedia Commons (CC BY 4.0)

De frontier-ambitie krijgt een eerste model

In juni kondigde OVHcloud aan frontiermodellen, de zwaarste taalmodellen die vanaf nul worden getraind, te willen bouwen en na Mistral Europa's tweede LLM-bouwer te willen worden. Die aankondiging beschreef een ambitie: meerdere gespecialiseerde modellen bouwen, met open publicatie als einddoel. Olala mini geeft die koers voor het eerst een modelnaam, architectuur, gebruiksvoorbeeld en publicatiedatum.

Olala mini is een compacte variant met 7 miljard parameters. OVHcloud verwacht versie 1.1 voor het einde van het jaar, met een contextvenster van 128.000 tokens en betere prestaties bij wiskundig redeneren. Versie 2.0 mikt op meer dan 100 miljard parameters, maar heeft nog geen datum.

Versie 2.0 is bedoeld voor drie gebieden: agentische toepassingen voor bedrijven, cloud-DevOps en cybersecurity. Het blijft een routekaart; de huidige aankondiging bewijst niet dat grotere modellen al gebouwd zijn of Olala mini bestaande frontiermodellen evenaart. Wel koppelt OVHcloud zijn cloudactiviteiten nu aan een eigen model dat volgens plan ook buiten zijn clouddienst verschijnt.

De licentie maakt het verschil met andere Europese modellen

Translated publiceerde Lara Mini Base op 12 november. Het telt 7,2 miljard parameters, waarvan 0,6 miljard actief zijn, en is getraind op 6 biljoen tokens in het Engels en 44 andere talen, waaronder alle 24 officiële EU-talen. Het paper meldt de hoogste gemiddelde benchmarkscore onder open basismodellen met maximaal 2 miljard actieve parameters. De gewichten vallen onder de niet-commerciële CC BY-NC-SA 4.0-licentie. Olala's geplande Apache 2.0-licentie geeft commerciële hergebruikers daardoor een andere route.

Een parallelle inzet binnen Europa is zichtbaar bij bedrijven: bunq draait Kimi K3 via Nebius op GPU's in de EU voor klantassistent Finn. Dat gaat niet om een Europees model, maar laat zien dat organisaties modelkeuze per taak kunnen maken. Daarbij speelt ook mee dat afhankelijkheid van één softwareleverancier een zeggenschapsrisico voor de bedrijfsvoering vormt: hosting en data bepalen mede hoeveel controle een modelkeuze oplevert.

De snelheidsclaims meten geen antwoordkwaliteit

De aankondiging noemt doorvoer en geheugen, geen openbare score voor taalbegrip, redeneren of specifieke zakelijke taken. Ook Qwants vergelijking verzwijgt het model dat werd vervangen en de kostenberekening. Snelheid zegt iets over wachttijd, maar niet of antwoorden goed genoeg zijn om klanten te tonen of werk te automatiseren.

De 8 GB-claim vraagt om uitleg. Zeven miljard BF16-parameters nemen bij twee bytes per parameter circa 14 GB in, nog zonder ruimte voor het werkgeheugen. ActuIA wijst erop dat de aankondiging niet uitlegt hoe dit past bij de genoemde 8 GB en dat de RTX A4500 voor de snelheidstest 20 GB geheugen heeft. Een versie met minder bits per parameter of het gebruik van gewoon werkgeheugen kan de benodigde GPU-capaciteit veranderen, maar de aankondiging noemt niet welke configuratie bij de minimumclaim hoort.

OVHclouds eerdere plan heeft nu een benoemd model, een eerste gebruiker en een publicatiedatum. Voor een Nederlands team wordt het pas een reële inkoopoptie zodra de gewichten en het technische rapport beschikbaar zijn. Dan valt te toetsen of Olala bij de gewenste taak past, hoe het op eigen hardware draait en wat Qwants kostenclaim voor het eigen gebruik betekent. De eerstvolgende controleerbare stap is 19 november.

Veelgestelde vragen

Alisina Nawabi
Geschreven doorAlisina Nawabi

AI Product Engineer & Solutions Architect

Van model naar werkende AI

Ik denk met je mee over de modelkeuze, ontwerp de toepassing en realiseer de koppelingen en automatisering. Waar dat kan, zet ik de oplossing self-hosted op zodat je grip houdt op uitvoering en data.

Meer informatie

Dit artikel is geproduceerd samen met het Agent Team. Meer over de redactie.

Genoemde integraties

Dit artikel noemt deze tools. Ik koppel ze op maat aan je eigen systemen.

Gerelateerde artikelen

Europese financiële instellingen zetten open AI-modellen per taak in
Nieuws
5 min

22 okt 08:13

Europese financiële instellingen zetten open AI-modellen per taak in

Bunq draait zijn assistent Finn op Kimi K3 en meldt dat een antwoord circa 60 procent kost van een antwoord met het beste gesloten model. Santander en Modulr koppelen modellen aan bankdata en betalingen.

Een AI-agent op je eigen data draaien: zelf hosten of een EU-aanbieder kiezen
Gids
Uitgebreide gids11 min

8 jul 17:00

Een AI-agent op je eigen data draaien: zelf hosten of een EU-aanbieder kiezen

Een AI-agent die op je eigen data werkt, hoeft niet naar een Amerikaanse cloud. Kies bewust tussen een EU-aanbieder via een API en zelf hosten, met een eerlijk beslis-kader op data, kosten, beheer en exit.

Perplexity voegt Locate toe aan Decider v1.3
Nieuws
4 min

14 nov 00:23

Perplexity voegt Locate toe aan Decider v1.3

Perplexity voegt Locate toe aan Decider v1.3: de functie haalt exacte tekstfragmenten uit tickets en documenten naast classificatiekansen. API-prijzen beginnen bij $0,01 per miljoen invoertokens, maar de modelkaart spreekt de actuele downloadstatus tegen.

NVIDIA brengt Nemotron 3.5 Transcribe uit voor opgenomen spraak
Nieuws
5 min

28 okt 18:33

NVIDIA brengt Nemotron 3.5 Transcribe uit voor opgenomen spraak

NVIDIA zet Nemotron 3.5 Transcribe online voor transcriptie van opgenomen spraak, vertaling en sprekerlabels. Nederlands staat in de modelkaart voor ASR en vertaling, maar Nederlandse sprekerherkenning is niet vermeld.

Baidu publiceert Unlimited OCR 2 voor lange documenten
Nieuws
4 min

28 okt 04:41

Baidu publiceert Unlimited OCR 2 voor lange documenten

Baidu geeft Unlimited OCR 2 vrij met een benchmark op documenten van 100 tot 300 pagina’s. De eigen score dekt Chinees en Engels, niet de kwaliteit op Nederlandse dossiers.

Meta publiceert open gewichten van Muse Spark
Nieuws
5 min

15 okt 20:25

Meta publiceert open gewichten van Muse Spark

Meta maakt de gewichten van Muse Spark Open downloadbaar onder een licentie die commercieel gebruik toestaat. Zelf hosten kan, maar de Mac-demo vraagt meerdere systemen en een aparte overeenkomst kan gelden voor grote AI-diensten.