De Belgische GBA beveelt een niet nader genoemde chatbot-app binnen vier maanden haar verwerking van bijzondere gespreksgegevens voor modeloptimalisatie aan te passen, omdat gebruikers daarvoor geen uitdrukkelijke toestemming gaven.
Voor Nederlandse organisaties die klant- of personeelsgesprekken gebruiken om een model te verbeteren, zit de inzet in het onderscheid tussen chatbotgebruik en modeltraining. Een grondslag voor gewone chatdata dekt bijzondere persoonsgegevens niet vanzelf. De uitspraak gaat over één app, maar maakt concreet welke gegevens een trainingsroute kan raken en welke toestemming daar in deze zaak voor nodig is.
De GBA splitst chatbotgebruik en modeltraining
De Geschillenkamer onderzocht een app voor gepersonaliseerde chatbots en gesprekken. De aanbieder gebruikte gesprekken in een opgeschoonde trainingsdatabase om open-source modellen bij te stellen. De GBA behandelt het beantwoorden van een chat en modeloptimalisatie als twee aparte verwerkingen, in haar beslissing van 16 november 2026, nummer 320/2026.

Voor gewone gespreksgegevens vond de GBA verwerking nodig om de chatbotdienst te leveren. Voor modeloptimalisatie aanvaardde zij gerechtvaardigd belang. De toezichthouder beschouwde betere samenhang en relevantie van antwoorden in deze zaak als een legitiem doel. Gebruikers konden de training redelijkerwijs verwachten en er waren waarborgen. Die beoordeling rust op de context en waarborgen van deze app.
Gesprekken kunnen ook informatie onthullen over gezondheid, religie of iemands seksuele leven. De GBA vond bijzondere persoonsgegevens in gesprekken over erotisch rollenspel en eiste uitdrukkelijke toestemming voor modeloptimalisatie. Die toestemming ontbrak.
Een pseudoniem maakt de trainingsdata niet anoniem
De aanbieder stelde dat gesprekken vóór training volledig waren geanonimiseerd. De GBA zag dat anders: gebruikers-ID’s waren gescheiden, maar konden voor bijvoorbeeld inzageverzoeken weer aan gesprekken worden gekoppeld. Ook omvatten samenvattingen niet de hele trainingsdatabase. De gegevens waren dus gepseudonimiseerd en bleven persoonsgegevens.
De EDPB stelt dat modellen die op persoonsgegevens zijn getraind niet in alle gevallen als anoniem kunnen worden beschouwd; de beoordeling hangt af van het model en de gegevens. In deze zaak keek de GBA daarom naar de chatdata vóór en tijdens het trainen, niet alleen naar wat een chatbot later in een antwoord laat zien.
Bij organisaties kunnen persoonsgegevens via invoer, uitvoer, training en logging in een AI-systeem komen. De AVG-checklist voor generatieve AI brengt die vier plekken apart in kaart. Zo wordt zichtbaar of een gevoelig gegeven alleen nodig was om een vraag te beantwoorden, of ook in een trainingsbestand terechtkomt.
Twee opdrachten komen met een termijn
De GBA berispte de aanbieder omdat de privacyverklaring gebruikers onvoldoende informeerde over gewone en bijzondere gespreksgegevens. De app paste tijdens de procedure de uitleg over gewone gegevens aan. De berisping gaat over de periode tot die wijziging op 21 januari 2025.
Voor bijzondere gegevens moet de app vooraf uitdrukkelijke toestemming vragen, voordat iemand een gesprek begint waarin zulke informatie te verwachten is. Daarnaast moet zij gebruikers duidelijk vertellen dat bijzondere gegevens bij chatbotgebruik worden verwerkt, op welke grondslag dat gebeurt en hoe toestemming wordt verzameld.
De app krijgt vier maanden na kennisgeving om beide opdrachten uit te voeren. Daarna kan de GBA bij niet-naleving een dwangsom activeren van 1.000 euro per dag per opdracht, tot 100.000 euro per opdracht. Dat is maximaal 2.000 euro per dag voor beide opdrachten samen, geen onmiddellijke bestuurlijke boete. Beroep is mogelijk binnen dertig dagen na kennisgeving.
De beslissing blijft bij één chatbot-app
De klacht tegen de app werd in april 2023 ingediend. De GBA publiceerde haar beslissing op 17 november 2026, alleen in het Frans, en hield de naam van de aanbieder afgeschermd. Zij beoordeelde de app als verantwoordelijke voor de doelen en middelen van haar eigen modeloptimalisatie.
De Geschillenkamer had de inspectiedienst te laat ingeschakeld en liet diens bevindingen daarom buiten beschouwing. Vier andere verwijten sloot zij af wegens onvoldoende onderbouwde feiten. Die gingen onder meer over doelbinding, dataminimalisatie, internationale doorgifte en verantwoordingsplicht. De beslissing stelt dus niet vast dat elke chatbot gesprekken onrechtmatig gebruikt of dat elke verwerking van bijzondere gegevens verboden is.
De voorlopige richtlijn van de Nederlandse AP voor generatieve AI vereist voor bijzondere gegevens zowel een grondslag onder artikel 6 als een uitzondering onder artikel 9 van de AVG. Zulke verwerking is volgens de AP niet automatisch onrechtmatig, maar vraagt om datacuratie en waarborgen. Dat sluit aan op de juli-richtlijnen van de AP, die een drieledige toets voor gerechtvaardigd belang bij generatieve AI bevatten.
De GBA legt de grens bij wat een gesprek over een persoon onthult en bij het doel waarvoor die informatie wordt gebruikt. Gewone chatdata en bijzondere persoonsgegevens vallen in dit dossier onder verschillende toetsen, ook wanneer ze uit hetzelfde gesprek komen. Voor organisaties die chatlogs als trainingsmateriaal inzetten, is juist die scheiding de relevante verschuiving. Of de aanbieder binnen de beroepstermijn naar de rechter stapt, is nog niet bekend.
Veelgestelde vragen
AI met grenzen voor chatdata
Ik ontwerp en bouw je AI-toepassing van meedenken tot livegang, met een datastroom waarin gevoelige gegevens hun eigen grens krijgen. Waar het kan, richt ik de omgeving self-hosted in.
Dit artikel is geproduceerd samen met het Agent Team. Meer over de redactie.
