Smartphone met de ChatGPT-website open in beeld.
Nieuws17 november · 12:305 min leestijd

GBA beveelt chatbot-app toestemming te vragen voor gevoelige trainingsdata

De Belgische GBA geeft een chatbot-app vier maanden om bijzondere gespreksgegevens voor AI-training rechtmatig te verwerken en gebruikers daarover te informeren. De uitspraak maakt onderscheid tussen gewone chatdata en gevoelige persoonsgegevens.

De Belgische GBA beveelt een niet nader genoemde chatbot-app binnen vier maanden haar verwerking van bijzondere gespreksgegevens voor modeloptimalisatie aan te passen, omdat gebruikers daarvoor geen uitdrukkelijke toestemming gaven.

Voor Nederlandse organisaties die klant- of personeelsgesprekken gebruiken om een model te verbeteren, zit de inzet in het onderscheid tussen chatbotgebruik en modeltraining. Een grondslag voor gewone chatdata dekt bijzondere persoonsgegevens niet vanzelf. De uitspraak gaat over één app, maar maakt concreet welke gegevens een trainingsroute kan raken en welke toestemming daar in deze zaak voor nodig is.

De GBA splitst chatbotgebruik en modeltraining

De Geschillenkamer onderzocht een app voor gepersonaliseerde chatbots en gesprekken. De aanbieder gebruikte gesprekken in een opgeschoonde trainingsdatabase om open-source modellen bij te stellen. De GBA behandelt het beantwoorden van een chat en modeloptimalisatie als twee aparte verwerkingen, in haar beslissing van 16 november 2026, nummer 320/2026.

ELIZA-voorbeeldgesprek waarin de gebruiker zegt vaak depressief te zijn. Bron: onbekende maker / Wikimedia Commons (publiek domein)
ELIZA-voorbeeldgesprek waarin de gebruiker zegt vaak depressief te zijn. Bron: onbekende maker / Wikimedia Commons (publiek domein)

Voor gewone gespreksgegevens vond de GBA verwerking nodig om de chatbotdienst te leveren. Voor modeloptimalisatie aanvaardde zij gerechtvaardigd belang. De toezichthouder beschouwde betere samenhang en relevantie van antwoorden in deze zaak als een legitiem doel. Gebruikers konden de training redelijkerwijs verwachten en er waren waarborgen. Die beoordeling rust op de context en waarborgen van deze app.

Gesprekken kunnen ook informatie onthullen over gezondheid, religie of iemands seksuele leven. De GBA vond bijzondere persoonsgegevens in gesprekken over erotisch rollenspel en eiste uitdrukkelijke toestemming voor modeloptimalisatie. Die toestemming ontbrak.

Een pseudoniem maakt de trainingsdata niet anoniem

De aanbieder stelde dat gesprekken vóór training volledig waren geanonimiseerd. De GBA zag dat anders: gebruikers-ID’s waren gescheiden, maar konden voor bijvoorbeeld inzageverzoeken weer aan gesprekken worden gekoppeld. Ook omvatten samenvattingen niet de hele trainingsdatabase. De gegevens waren dus gepseudonimiseerd en bleven persoonsgegevens.

De EDPB stelt dat modellen die op persoonsgegevens zijn getraind niet in alle gevallen als anoniem kunnen worden beschouwd; de beoordeling hangt af van het model en de gegevens. In deze zaak keek de GBA daarom naar de chatdata vóór en tijdens het trainen, niet alleen naar wat een chatbot later in een antwoord laat zien.

Bij organisaties kunnen persoonsgegevens via invoer, uitvoer, training en logging in een AI-systeem komen. De AVG-checklist voor generatieve AI brengt die vier plekken apart in kaart. Zo wordt zichtbaar of een gevoelig gegeven alleen nodig was om een vraag te beantwoorden, of ook in een trainingsbestand terechtkomt.

Twee opdrachten komen met een termijn

De GBA berispte de aanbieder omdat de privacyverklaring gebruikers onvoldoende informeerde over gewone en bijzondere gespreksgegevens. De app paste tijdens de procedure de uitleg over gewone gegevens aan. De berisping gaat over de periode tot die wijziging op 21 januari 2025.

Voor bijzondere gegevens moet de app vooraf uitdrukkelijke toestemming vragen, voordat iemand een gesprek begint waarin zulke informatie te verwachten is. Daarnaast moet zij gebruikers duidelijk vertellen dat bijzondere gegevens bij chatbotgebruik worden verwerkt, op welke grondslag dat gebeurt en hoe toestemming wordt verzameld.

De app krijgt vier maanden na kennisgeving om beide opdrachten uit te voeren. Daarna kan de GBA bij niet-naleving een dwangsom activeren van 1.000 euro per dag per opdracht, tot 100.000 euro per opdracht. Dat is maximaal 2.000 euro per dag voor beide opdrachten samen, geen onmiddellijke bestuurlijke boete. Beroep is mogelijk binnen dertig dagen na kennisgeving.

De beslissing blijft bij één chatbot-app

De klacht tegen de app werd in april 2023 ingediend. De GBA publiceerde haar beslissing op 17 november 2026, alleen in het Frans, en hield de naam van de aanbieder afgeschermd. Zij beoordeelde de app als verantwoordelijke voor de doelen en middelen van haar eigen modeloptimalisatie.

De Geschillenkamer had de inspectiedienst te laat ingeschakeld en liet diens bevindingen daarom buiten beschouwing. Vier andere verwijten sloot zij af wegens onvoldoende onderbouwde feiten. Die gingen onder meer over doelbinding, dataminimalisatie, internationale doorgifte en verantwoordingsplicht. De beslissing stelt dus niet vast dat elke chatbot gesprekken onrechtmatig gebruikt of dat elke verwerking van bijzondere gegevens verboden is.

De voorlopige richtlijn van de Nederlandse AP voor generatieve AI vereist voor bijzondere gegevens zowel een grondslag onder artikel 6 als een uitzondering onder artikel 9 van de AVG. Zulke verwerking is volgens de AP niet automatisch onrechtmatig, maar vraagt om datacuratie en waarborgen. Dat sluit aan op de juli-richtlijnen van de AP, die een drieledige toets voor gerechtvaardigd belang bij generatieve AI bevatten.

De GBA legt de grens bij wat een gesprek over een persoon onthult en bij het doel waarvoor die informatie wordt gebruikt. Gewone chatdata en bijzondere persoonsgegevens vallen in dit dossier onder verschillende toetsen, ook wanneer ze uit hetzelfde gesprek komen. Voor organisaties die chatlogs als trainingsmateriaal inzetten, is juist die scheiding de relevante verschuiving. Of de aanbieder binnen de beroepstermijn naar de rechter stapt, is nog niet bekend.

Veelgestelde vragen

Alisina Nawabi
Geschreven doorAlisina Nawabi

AI Product Engineer & Solutions Architect

AI met grenzen voor chatdata

Ik ontwerp en bouw je AI-toepassing van meedenken tot livegang, met een datastroom waarin gevoelige gegevens hun eigen grens krijgen. Waar het kan, richt ik de omgeving self-hosted in.

Meer informatie

Dit artikel is geproduceerd samen met het Agent Team. Meer over de redactie.

Verken verder

Concepten

Gevoelige persoonsgegevens in chatbotgesprekkenToestemming voor modeltrainingPrivacyverklaringDoelbinding bij gegevensverwerkingBeroepstermijnDatacuratie en waarborgenGerechtvaardigd belang bij modeloptimalisatieGevoelige persoonsgegevens in trainingsdata

Gerelateerde artikelen

Dordrecht erkent AVG-schendingen bij ruim 1.000 mensen
Nieuws
5 min

19 nov 18:41

Dordrecht erkent AVG-schendingen bij ruim 1.000 mensen

Het onderzoek naar de Dordtse Aanpak Overlast telt 1.091 mensen, onder wie 719 netwerkpersonen. Dordrecht erkent tekortkomingen in grondslag, bewaartermijnen en het delen van gegevens. De AP onderzoekt de zaak afzonderlijk.

AP raadt AI-camerabrillen af na test van zes modellen
Nieuws
5 minBijgewerkt om 19:17

19 nov 12:34

AP raadt AI-camerabrillen af na test van zes modellen

De AP raadt aankoop van AI-camerabrillen af na tests van zes modellen. Het rapport beschrijft onveilige adviezen, slecht zichtbare opnamelampjes en kwetsbaarheden waardoor onbevoegden de camera konden bedienen.

Externe monteur toelaten: bewijs, werkvergunning en toegang
Gids
Uitgebreide gids22 min

17 nov 17:00

Externe monteur toelaten: bewijs, werkvergunning en toegang

Van leveranciersbewijs naar een werkvergunning die bij de juiste monteur en werkorder hoort. Met poliscontrole per contract, menselijke beoordeling, tijdelijke toegang en teruggelezen badge-status per opdracht.

Wat kost maatwerksoftware laten maken? Zo vergelijk je offertes
Gids
Uitgebreide gids24 min

17 nov 09:00

Wat kost maatwerksoftware laten maken? Zo vergelijk je offertes

Een lage bouwsom zegt weinig zolang offertes migratie, koppelingen, beveiliging en beheer anders behandelen. Leg eerst één scope vast en vergelijk daarna de totale kosten van SaaS, no-code en maatwerk over 36 maanden.

Wat kost een online boekingssysteem voor je salon?
Gids
Uitgebreide gids24 min

6 nov 17:00

Wat kost een online boekingssysteem voor je salon?

Een salonagenda kost meer dan het maandbedrag: commissie op nieuwe klanten, betaalverkeer, sms en export tellen mee. Reken je eigen volumes door en zie wanneer een standaardpakket wint en wanneer maatwerk klopt.

AP adviseert incassobureaus over algoritmes en AI
Nieuws
5 min

29 okt 12:12

AP adviseert incassobureaus over algoritmes en AI

De AP onderzocht hoe 29 incassobureaus algoritmes en AI inzetten. De cijfers tonen vooral regelgebaseerde systemen; het rapport legt risico’s bloot rond persoonsgegevens, scores, menselijke controle en uitleg aan schuldenaren.