Bits of Freedom: AIVD en MIVD trainen mogelijk eigen AI met burgerdata

De AIVD en MIVD lijken hun eigen AI te trainen met data van burgers, stelt burgerrechtenorganisatie Bits of Freedom in een reactie op het CTIVD-rapport over de bulkdataverwerking door beide inlichtingendiensten. De diensten zelf hebben dat niet bevestigd; het is een lezing van het toezichtrapport, geen vaststaand feit.

Toch raakt die lezing een punt dat verder reikt dan Zoetermeer. Wie een AI-model traint of finetunet op eigen data, loopt tegen precies dezelfde twee vragen aan: waar komt die trainingsdata vandaan, en hoe lang mag je die houden. Bij de diensten gaat het om bulkbestanden vol persoonsgegevens, bij een bedrijf om klant-, medewerker- of leveranciersdata. In beide gevallen bepalen de herkomst en de bewaartermijn of die training onder de AVG mag, of dat je een boete en een datalek in de maak hebt.

Wat Bits of Freedom uit het rapport afleidt

Bits of Freedom reageert op Toezichtrapport nr. 84 van de CTIVD, dat de verwerking van bulkdatasets door de AIVD en MIVD onder de loep nam. Volgens de organisatie lijkt het erop dat de diensten hun eigen AI trainen met de data die ze op grote schaal verzamelen. Ze zouden daarbij zelfs gegevens kopen die uit datalekken afkomstig zijn, aldus de organisatie.

Het zwaartepunt zit in dat woord: lijken. De AIVD en MIVD bevestigen niets van dit alles. Het is een gevolgtrekking die Bits of Freedom uit de bevindingen trekt, niet iets wat de diensten zelf naar buiten brachten. Algemeen directeur Evelyn Austin verwoordt de onderliggende zorg scherp: de diensten "willen alsmaar meer macht, terwijl ze steeds weer laten zien niet om te kunnen gaan met de macht die we ze al hebben gegeven."

Wat de CTIVD wel hard vaststelt

Het onderliggende rapport is geen speculatie. De CTIVD stelt vast dat de diensten persoonsgegevens in meerdere gevallen te lang bewaarden en dat groepen medewerkers er onrechtmatig toegang toe hadden. Het gaat om bulkbestanden die soms miljoenen regels tellen, met namen, telefoonnummers, locatiegegevens, socialemedia-informatie en de inhoud van communicatie. De commissie kwam met dertien aanbevelingen.

Dat is hetzelfde dossier waarin de toezichthouder de diensten eerder deze maand dertien verbeterpunten oplegde over hun omgang met te lang bewaarde bulkdata en te ruime toegang. Nieuw is nu de AI-hoek. Als je persoonsgegevens te lang bewaart en te breed toegankelijk maakt, ligt hergebruik voor iets nieuws, zoals het trainen van een model, dichterbij dan je zou willen.

Waarom dit ook zonder geheime dienst jouw probleem is

Voor de meeste bedrijven voelt een inlichtingendienst ver weg. De governance-fout eronder niet. Het AVG-risico bij AI zit niet in het model, maar in de data die je erin stopt: de herkomst, de grondslag en de bewaartermijn. Een model dat je traint op data waarvan je de herkomst niet kunt aantonen, of die je allang had moeten wissen, is precies het scenario dat hier speelt, alleen dan op de schaal van een staat.

De praktische les is dezelfde als in het rapport zelf: dwing dataherkomst en bewaartermijnen technisch af, niet alleen op papier. Wie kan bewijzen welke dataset waarvoor in een model ging, en die na afloop ook echt opruimt, staat sterk als de toezichthouder aanklopt. Wie dat alleen in beleid heeft staan, niet.

De verschuiving zit hem hierin: dataverwerking wordt steeds vaker AI-training. Toen Meta toetsaanslagen van eigen personeel verzamelde voor AI-training en daar een datalek over moest melden, was het patroon hetzelfde: data die voor het ene doel wordt verzameld, belandt in een model. Of de AIVD en MIVD dat werkelijk doen, is niet bevestigd. Dat de vraag nu bovenaan ligt bij een toezichtrapport over dataverwerking, laat zien waar de AVG-frontlinie de komende jaren loopt: niet bij de vraag of je AI inzet, maar of je kunt aantonen waar je trainingsdata vandaan komt en wanneer die weg moet.