Hoe leer je AI jouw kennis: prompten, RAG of fine-tunen?

Je wilt dat de bedrijfschatbot jullie spullen kent, dus je denkt: dan moet je een eigen model trainen op jullie data. Bijna nooit waar. Trainen, oftewel fine-tunen, past de gewichten van het model aan, en dat is duur. Zodra een document verandert, klopt het model weer niet.

Neem een concreet geval. Je wilt dat de chatbot jullie ouderschapsverlofbeleid kent. De eerste ingeving is een model fine-tunen op de HR-documenten. Maar zodra het beleid volgend kwartaal wijzigt, moet je opnieuw trainen, en het model kan de oude en de nieuwe regel alsnog door elkaar halen.

Doe het anders. Zet de HR-documenten in een doorzoekbare index, haal bij de vraag de juiste paragraaf op, en laat het model daaruit antwoorden met een verwijzing naar het bronbestand. Verandert het beleid, dan vervang je het document en klopt het antwoord meteen. Dat is RAG: de juiste documenten bij je vraag opzoeken. Fine-tunen zou hier passen voor iets heel anders, zoals altijd antwoorden in jullie huisstijl of altijd in een vast format. Voor het kennen van dit ene feit niet.

Voordat ik het uit elkaar trek: kies zelf. Bij welk gereedschap hoort jouw geval?

Zie je het patroon? Eén vraag beslist bijna alles: verander je de invoer, of het model zelf?

Prompten, RAG en fine-tunen zijn drie manieren om een AI-model jouw kennis of gedrag te geven, en ze lossen verschillende problemen op. Prompten en RAG veranderen alleen de invoer: je geeft instructies mee via de prompt of system prompt, of je zoekt bij de vraag de juiste documenten erbij met RAG. Fine-tunen verandert het model zelf, de gewichten, en past bij een vaste stijl, toon of vorm, niet bij feiten die vaak veranderen.

Vergelijk het met een nieuwe medewerker. Prompten is een goede opdracht geven. RAG is hem een archiefkast geven waarin hij bij elke vraag het juiste dossier opzoekt. Fine-tunen is hem maandenlang omscholen tot het gedrag in zijn systeem zit. Voor een nieuw feit pak je de archiefkast, niet de omscholing.

In een beslisboom ziet die keuze er zo uit.

Wil je weten wat er onder de motorkap gebeurt, schakel dan door de drie niveaus.

Waar is fine-tunen dan wél voor?

De drie zijn geen ranglijst. Prompten is het goedkoopste gereedschap: instructies en een paar voorbeelden meegeven, gratis en direct. RAG is het gereedschap voor kennis: de juiste documenten erbij zoeken op het moment van de vraag. Fine-tunen stelt de gewichten bij met veel voorbeelden en verdient zich terug bij een consistente stijl, een vast format, of specifiek gedrag dat je met een paar instructies niet betrouwbaar krijgt. Fine-tunen laat je bovendien kortere prompts sturen, wat bij grote volumes kosten en latency drukt.

Dat kost wel iets. OpenAI adviseert rond de vijftig goede voorbeelden om mee te beginnen, met minimaal tien, plus onderhoud zodra je taak verandert. En het pad verschilt per aanbieder: Anthropic biedt op zijn eigen API geen fine-tuning aan en verwijst je naar je contactpersoon, terwijl fine-tunen van Claude in de praktijk via partners zoals Amazon Bedrock loopt.

Twee valkuilen zitten hier verstopt. Fine-tunen maakt een model niet slimmer en haalt het verzinnen van feiten er niet uit: een verkeerd doel, feiten instampen via fine-tunen, verspilt geld en levert een model op dat nog steeds naast kan zitten. En kies je RAG, dan staat of valt alles met je retrieval: haalt het de verkeerde paragraaf op, dan klopt het nette antwoord eromheen nog steeds niet.

Begin daarom goedkoop en klim alleen als het nodig is: eerst een goede prompt, dan RAG voor kennis, en pas fine-tunen als stijl of gedrag het echt vereist. In de praktijk combineer je ze vaak: RAG voor de feiten, en een goede prompt of een lichte fine-tune voor de vorm.

Voordat je dus vraagt of je "de AI kunt trainen op je eigen data", stel eerst de twee vragen die je nu kent: verandert de kennis vaak, en gaat het om weten of om gedrag? Het antwoord wijst bijna altijd naar het goedkoopste gereedschap dat werkt, en zelden naar het duurste.