Een AI-agent op je eigen data draaien: zelf hosten of een EU-aanbieder kiezen

"Een EU-agent" klinkt als één vinkje: kies een Europese aanbieder en klaar. In de praktijk beslis je drie dingen los van elkaar. Waar het model draait, waar je data rust terwijl de agent hem leest, en wie het geheel draaiend en up-to-date houdt. Die drie vallen lang niet altijd samen, en juist daar loopt het mis.

Dit is geen chatbotkeuze. Een chatbot praat, een agent handelt: hij leest je mailbox, doorzoekt je kennisbank, werkt een record bij, plant een afspraak. Zodra een agent zelfstandig werk overneemt op je eigen data, wordt de hostvraag scherp. Een verkeerd antwoord van een chatbot is een raar zinnetje. Een agent die klantdata naar de verkeerde server stuurt, is een AVG-verwerking die je niet terugdraait. Zoek je juist de gesprekslaag in plaats van de werklaag, dan weeg je Proton Lumo, Mistral Le Chat of zelf hosten voor een privacy-veilige chatbot apart af.

Een AI-agent op eigen data is een systeem dat zelf stappen zet in jouw software (lezen, schrijven, versturen) om een taak af te maken, en dat daarvoor jouw bedrijfsgegevens als context gebruikt. De hostkeuze gaat over waar het onderliggende taalmodel die gegevens verwerkt: bij een Europese aanbieder via een API, of op hardware die je zelf beheert.

Na deze gids weet je welke van drie routes bij jouw situatie past, en waarom. Voor de juridische kant, de verwerkersovereenkomsten en het vastleggen van residency, is er een apart stappenplan over waar je klantdata mag staan. Hier gaat het om de infrastructuur onder de werkende agent zelf.

Wat je nodig hebt

Voordat je een route kiest, moet dit op orde zijn. Het meeste kost geen geld, wel denkwerk.

• Eén afgebakende agent-taak waarvan je de datastroom kent. "Doorzoek onze kennisbank en beantwoord supportvragen" is scherp genoeg; "iets met AI" niet. Zonder scherpe taak weet je niet welke data de agent raakt, en dus niet hoe gevoelig de hostkeuze is.
• Zicht op de gevoeligheid van die data. Gewone zakelijke contactgegevens wegen anders dan een BSN, een medisch dossier of betaalgegevens, de bijzondere categorieën uit artikel 9 van de AVG. Deze ene vraag bepaalt bijna in haar eentje welke route mag.
• Een model dat function calling kan. Een agent handelt via tools: hij roept functies aan om je systemen te lezen en te schrijven. Een model zonder function calling blijft een chatbot. De serieuze EU-aanbieders ondersteunen het inmiddels, en de open modellen ook.
• Een EU-plek waar je data rust. De agent verwerkt gegevens, maar ze staan ook ergens: je kennisbank, je documenten, je logs. Reken die opslag mee in de residencyvraag; het model is maar de helft.
• Een gateway met logging en een tokenbudget. Eén plek waar elke modelaanroep doorheen loopt, zodat je kunt zien, budgetteren en desnoods stoppen. Dat is dezelfde bouwsteen die je nodig hebt in het invoeringsdraaiboek voor een eerste agent.
• Iemand die het beheert. Bij een aanbieder is dat licht. Bij self-hosting is het een echte rol. Geen eigenaar betekent geen updates en geen toezicht.

De drie routes, kort

Er zijn grofweg drie manieren om een agent op je eigen data te laten draaien met je gegevens in Europa. Ze verschillen niet in wat de agent kan, maar in wie de controle en het onderhoud draagt.

Route 1: een EU-gehoste aanbieder via een API. Je huurt een model van een Europees bedrijf dat het op Europese infrastructuur draait, en praat ermee via een API. Mistral verwerkt zijn API-verkeer op Europese servers en rekent voor zijn middenmodel rond 0,40 dollar per miljoen input- en 2 dollar per miljoen output-tokens (prijzen juli 2026). Scaleway draait zijn generatieve API's uitsluitend in een datacenter in Parijs en vraagt voor het model mistral-small-3.2 zo'n 0,15 euro per miljoen input- en 0,35 euro per miljoen output-tokens. OVHcloud belooft bij zijn AI Endpoints dat je invoer nooit wordt gebruikt om modellen te trainen en dat er niets langer dan de facturatie bewaard blijft. Je data blijft in de EU, je betaalt per token, en je beheert geen servers.

Route 2: een open model dat je zelf host op EU-infra. Je pakt een open-weight model en draait het op hardware die je zelf beheert: een GPU-server bij een Europese provider of in je eigen rack. De open modellen zijn geen noodgreep meer. Mistral zet zijn kleinere modellen onder een vrije Apache 2.0-licentie, zodat je ze mag downloaden, draaien en fine-tunen zonder toestemming. Voor een klein model van 7 tot 8 miljard parameters heb je aan 16 GB videogeheugen genoeg; een model van 70 miljard vraagt zelfs gekwantiseerd nog zo'n 40 GB en draait dan op één Nvidia H100 op 20 tot 40 tokens per seconde voor één gebruiker tegelijk (cijfers feb 2026). Wil je meerdere mensen tegelijk bedienen, dan zit je al snel aan twee kaarten. Bij een Europese provider als Hetzner huur je GPU-servers in Duitsland en Finland, van een RTX 4000 met 20 GB tot een RTX PRO 6000 Blackwell met 96 GB videogeheugen, vanaf ongeveer 180 euro per maand. Maximale controle, want niets verlaat je omgeving, maar jij draagt de hardware, de updates en de capaciteit.

Route 3, de valstrik: een Amerikaanse hyperscaler met een EU-regio. Azure OpenAI of AWS Bedrock in een Frankfurt-regio voelt als de makkelijke tussenweg. De data staat fysiek in Europa, maar het moederbedrijf valt onder Amerikaans recht, dus via de CLOUD Act houdt een buitenlandse overheid juridisch toegang. Voor gevoelige data is een EU-regio niet hetzelfde als Europese zeggenschap.

Zo kies je: het beslis-kader

De keuze draait niet om welk model het slimst is, maar om vier assen. Leg je eigen situatie erop, want het antwoord verandert per taak.

Hoe gevoelig is de data? Bij gewone zakelijke gegevens volstaat een EU-aanbieder met een no-training-garantie. Gaat het om bijzondere categorieën (gezondheid, BSN, betaaldata) of eist een klant contractueel dat niets je muren verlaat, dan wint self-hosting, of je pseudonimiseert voordat de agent iets ziet.

Hoeveel draait de agent? Pay-per-token is spotgoedkoop bij laag en wisselend volume: je betaalt alleen wat je gebruikt. Een zelf gehoste GPU kost hetzelfde of hij nu 100 of 100.000 keer per dag draait. Er is dus een omslagpunt. Onder een paar honderd euro aan tokens per maand loont eigen hardware zelden.

Wie beheert het straks? Self-hosting is geen eenmalige installatie. Iemand moet het model updaten, de GPU-driver bijhouden, vLLM draaiend houden en de beveiliging dichtzetten. Heb je die rol niet, dan is een aanbieder eerlijker, ook al voelt eigen hardware soevereiner.

Hoe erg is lock-in? Een API bindt je aan een leverancier, maar een Europese met open protocollen laat zich makkelijker vervangen dan een Amerikaanse hyperscaler. Open weights binden je aan niemand: je houdt het model ook als de maker verdwijnt. Weeg dat mee als een schone exit voor jou een harde eis is, zoals het draaiboek tegen vendor lock-in uitwerkt.

Zo zet je het op, stap voor stap

Heb je de route gekozen, dan is de opbouw grotendeels hetzelfde, of je nu een aanbieder of eigen hardware gebruikt. Zes stappen, elk met een uitkomst die je kunt aftikken.

1. Bak de taak af en classificeer de data. Schrijf in één zin op wat de agent doet, en label de gegevens die hij raakt als gewoon of bijzonder. Dit is de invoer voor je routekeuze; zonder deze stap kies je op gevoel.
2. Kies de route met het kader hierboven. Leg de vier assen op je situatie en beslis: EU-aanbieder, self-hosted, of pseudonimiseren plus aanbieder. Leg de keuze en de reden schriftelijk vast, zodat je hem later kunt verantwoorden.
3. Zet de gateway met een tokenbudget klaar. Richt één proxy in waar elke modelaanroep doorheen loopt, met een hard maandbudget en logging aan. Test dat een overschrijding daadwerkelijk wordt geblokkeerd voordat je verdergaat.
4. Geef read-only toegang tot de eerste systemen. Sluit de agent via een MCP-server of API aan op de twee of drie bronnen met de meeste handmatige uren, eerst alleen lezen. Controleer in de logs dat hij precies raakt wat mag, en niets meer.
5. Draai een proefweek op echte data en meet. Laat de agent concepten produceren zonder iets te versturen, en vergelijk zijn output met wat een mens zou doen. Noteer het tokenverbruik; dat is je echte kostenbasis, niet de schatting vooraf.
6. Zet goedkeuring op gevoelige acties en schaal op. Geef pas schrijfrechten als het leesgedrag klopt, met een mens die onomkeerbare acties goedkeurt. Breid daarna uit naar een volgende taak, niet naar meer autonomie op deze.

Valkuilen

De meeste missers zitten niet in de techniek maar in de aanname. Dit zijn de vijf die het vaakst geld of grip kosten, elk met de manier om ze te vermijden.

Een EU-regio verwarren met Europese zeggenschap. Een Amerikaanse aanbieder die je data in een Frankfurt-datacenter zet, valt via zijn moederbedrijf nog steeds onder de CLOUD Act. Voor alledaagse data is dat te overzien; voor gevoelige data is het een gat. Kies dan een aanbieder met een Europees moederbedrijf, niet alleen een Europese knop.

De beheerkost van self-hosting vergeten. De GPU-huur is de kleinste post. Modelupdates, beveiliging, monitoring en iemand die opneemt als de agent 's nachts vastloopt, dat is de echte rekening. Reken beheertijd altijd mee, anders lijkt zelf hosten goedkoper dan het is.

Gevoelige data naar een model sturen dat erop traint. Niet elke aanbieder houdt je invoer buiten zijn training. Eis een schriftelijke no-training-garantie en zet het uit waar het een instelling is. Zonder dat beland je met een klantnaam zomaar in een volgende modelversie.

De menselijke controle overslaan. Een agent die zelfstandig handelt, heeft toezicht nodig. Voor hoog-risico-toepassingen eist de EU AI Act menselijk toezicht en een ingreepmogelijkheid, verplicht vanaf 2 augustus 2026. Bouw een goedkeuringspoort en een kill-switch in, ongeacht welke host je kiest.

De tokenkosten onderschatten. Een agent stuurt bij elke beurt zijn volledige context opnieuw mee en werkt in meerdere beurten, dus de rekening loopt sneller op dan een losse chatvraag doet vermoeden. Begrens het budget vooraf en houd de tokenkosten van je agent in de hand voordat het volume groeit.

Een voorbeeld: een administratiekantoor dat zijn inbox laat triëren

Neem een administratiekantoor met acht medewerkers. De gedeelde inbox loopt vol met klantvragen: "waar blijft mijn factuur", "kun je deze bon nog boeken", "wat is de status van mijn aangifte". Ze willen een agent die elke mail leest, de klant en het dossier erbij zoekt, een concept-antwoord opstelt en de simpele gevallen labelt. De data: namen, mailadressen, af en toe een bedrag. Gevoelig, maar geen bijzondere categorie.

De route-keuze langs het kader gaat snel. Gewone zakelijke data, dus geen harde self-host-eis. Het volume is een paar honderd mails per dag, wisselend. Beheercapaciteit is er nauwelijks, één parttime IT'er. Dat wijst op route 1: een EU-aanbieder via een API.

De opzet: de agent krijgt via een MCP-koppeling met je systemen read-only toegang tot de mailbox en het dossierarchief, en de kennisbank staat doorzoekbaar in een EU-opslag (wanneer dat loont, weegt de RAG-koperskeuze af). Concepten mag hij zelf schrijven; versturen doet een mens, tot het gedrag klopt. Dat is precies de agent die e-mail echt afhandelt van concept tot ingeplande afspraak.

Wat kost dat? Reken mee. Zeg 200 mails per werkdag, elk goed voor zo'n 20.000 input-tokens (de mail, het dossier, een paar kennisbank-fragmenten, over meerdere agent-beurten) en 3.000 output-tokens. Dat is ongeveer 4.400 mails per maand, ofwel 88 miljoen input- en 13 miljoen output-tokens. Tegen het Scaleway-tarief van 0,15 en 0,35 euro per miljoen kom je op zo'n 13 plus 5, rond de 18 euro per maand aan tokens. Zelfs een tienvoud van dat volume blijft ruim onder de 200 euro.

Nu de tegenproef. Stel dat het geen administratiekantoor is maar een zorgpraktijk die medische gegevens verwerkt, waar de eis "niets verlaat ons netwerk" hard is. Dan valt route 1 af. Route 2 komt in beeld: een open model als Mistral Small 3.2 op een eigen GPU-server bij een Europese provider, met vLLM ervoor voor de doorvoer. De tokens zijn dan gratis, maar je betaalt een vaste 180 euro of meer per maand aan hardware, plus de uren van iemand die het draaiend houdt. Bij een paar honderd mails per dag verlies je op kosten; je koopt er controle voor terug. Dat is de eerlijke ruil, en precies waarom "het hangt af van je data en je volume" geen ontwijking is maar de kern.

De keuze is er, maak hem bewust

Europese infrastructuur is geen belofte meer maar een keuze die je vandaag kunt maken. Proton bewees het met Lumo 2.0, dat zijn zakelijke chatbot volledig op eigen Europese servers draait onder Zwitsers recht. Dat is de gesprekslaag, en voor de werkende agent staan Mistral, Scaleway en OVHcloud er met een echte API naast.

De vraag is dus niet meer óf het in Europa kan. Het is welke van de drie routes bij jou past, en dat antwoord verschuift per taak, per dataset en per maand dat je volume groeit. Wie dat nuchter afweegt in plaats van te grijpen naar de makkelijkste hyperscaler-knop, houdt zijn data waar hij hoort en zijn agent onder controle. Begin klein, meet je echte verbruik, en laat het antwoord meegroeien met wat de agent daadwerkelijk doet.