Open modellen en zelf hosten: AI huren of zelf draaien?

Je denkt waarschijnlijk dat "open" AI gewoon gratis is, dat een model zelf draaien altijd goedkoper is, of dat open modellen simpelweg de mindere zijn. Geen van die drie klopt zomaar. Ze voelen alleen logisch, en dat is precies waarom deze keuze zo vaak op onderbuik wordt gemaakt.

Neem een organisatie die een AI-assistent wil op gevoelige data: personeels- of patiëntgegevens die niet naar een externe server of buiten de EU mogen. Een Amerikaanse API inhuren is dan geen prijsvraag maar een governance-probleem, want elke vraag stuurt die data mee naar de servers van iemand anders. Draait ze in plaats daarvan een open-weight model op haar eigen EU-servers, dan blijft de data in huis, tegen vaste maandelijkse hardwarekosten, ongeacht hoeveel er wordt gevraagd. De prijs van die keuze: ze beheert nu zelf de infrastructuur en neemt misschien genoegen met een model dat net iets minder krachtig is dan het allerbeste gesloten model. Voor een chatbot met ongevoelige data en weinig verkeer is precies het omgekeerde waar: een API inhuren is dan simpeler én goedkoper.

Dat is de hele les in één voorbeeld. Er zijn twee manieren om aan AI te komen, en ze verschillen op drie dingen tegelijk: waar je data heen gaat, hoe je kosten zich gedragen, en wie het onderhoud doet.

Volg het bovenste pad en je huurt: je stuurt je tekst als verzoek naar de aanbieder, hun hardware rekent, en je betaalt per token, invoer en uitvoer apart. Volg het onderste pad en je draait zelf: je pakt een open-weight model, laadt de gewichten op hardware die jij beheert, en je data verlaat die machine nooit.

Open modellen en zelf hosten betekent dit: in plaats van AI te huren via de gesloten API van een aanbieder, download je de gewichten van een open-weight model en draai je het op je eigen of gehuurde hardware. Je ruilt gemak, en meestal de allerbeste kwaliteit, in voor grip op je data en voorspelbare vaste kosten, plus de plicht om de infrastructuur zelf draaiend te houden.

Het woord "open" zit vol misverstand, dus haal het in lagen uit elkaar.

In gewone woorden: de gewichten zijn de getrainde getallen die het model zijn kennis geven. Bij een gesloten model blijven die op de servers van de aanbieder en kom je er alleen via een API bij. Bij een open-weight model download je ze en draai je ze op je eigen GPU's, waarna je data die machine niet meer verlaat. Huren rekent per token af en stuurt je tekst naar de aanbieder; zelf draaien geeft vaste kosten los van je verbruik en houdt je data in eigen beheer, maar het onderhoud is nu van jou.

Waarom is "open" niet hetzelfde als open source of gratis?

Omdat "open" bij modellen bijna altijd sláát op de gewichten, niet op de rest. Je mag de getallen downloaden en draaien, maar de trainingscode en trainingsdata blijven meestal dicht, en dat is precies het verschil met echte open source. De licentie legt de tweede grens op: veel open-weight licenties staan commercieel gebruik toe met een uitzondering, zoals Meta's Llama-licentie die de allergrootste platforms uitsluit tenzij ze apart toestemming vragen. "Open" belooft dus toegang, geen onvoorwaardelijke vrijheid.

En gratis is het al helemaal niet. De gewichten downloaden kost niets, maar ze draaien wel: je hebt GPU's nodig, iemand die ze opzet, en iemand die ze draaiend en up-to-date houdt. Dat onderhoud is de kostenpost die in de rekensom het vaakst wordt vergeten, en tegelijk de reden dat zelf draaien niet automatisch goedkoper is. Open is trouwens ook niet automatisch slechter: voor veel taken volstaan goede open modellen ruim, en het gat krimpt, al lopen de beste gesloten modellen meestal nog voorop.

Wanneer kies je dan wat? Zelf draaien loont als je data gevoelig is of onder compliance-eisen valt, als je volume hoog en voorspelbaar is (dan duiken vaste kosten onder de per-token-rekening), en als je controle of aanpasbaarheid wilt. Huren loont bij laag of wisselend gebruik, als je de allerbeste kwaliteit wilt, en als je geen infrastructuur wilt beheren. In de praktijk is het antwoord vaak allebei: de gevoelige taken zelf draaien, de rest via een API. Wil je dieper op de modelkeuze zelf, dan helpt een stappenplan om een open-weight model bij je bedrijf te kiezen.

Loop je eigen situatie er even doorheen:

De echte fout is niet dat je huurt of zelf draait. De echte fout is denken dat een van beide gratis, altijd goedkoper of vanzelf beter is. Zodra je de keuze terugbrengt tot drie eerlijke vragen, waar mag mijn data heen, hoe gedraagt mijn volume zich, en wie houdt dit draaiend, wordt "open of gesloten" geen geloofskwestie meer maar een rekensom die je zelf kunt maken.