AP publiceert twee nieuwe AVG-richtlijnen voor generatieve AI

De Autoriteit Persoonsgegevens publiceert twee nieuwe AVG-richtlijnen voor generatieve AI: een juridische handreiking voor organisaties die AI-modellen bouwen, en een praktische checklist voor organisaties die zulke AI willen inkopen en inzetten.

Voor elke Nederlandse organisatie die generatieve AI bouwt of aanschaft, verschuift dit de aanpak van gokken naar afvinken. De AP vertaalt haar eerdere visie op generatieve AI naar concrete stappen: welke grondslag je nodig hebt, welke waarborgen, en als eerste vraag of je de tool überhaupt kunt gebruiken zonder persoonsgegevens te verwerken. Wie dat niet vooraf regelt, loopt hetzelfde risico als de gemeente die haar Copilot-uitrol door de toezichthouder onrechtmatig zag verklaren.

Twee documenten, twee doelgroepen

De eerste publicatie is een handreiking die beschrijft hoe je generatieve AI-modellen rechtmatig ontwikkelt en in gebruik neemt. Ze is bedoeld voor organisaties die zulke modellen bouwen of verantwoordelijk zijn voor de ingebruikname, en geeft een eerste interpretatie van de AVG. Concreet gaat het over de voorwaarden waaronder je persoonsgegevens mag verwerken, welke grondslagen kunnen gelden en welke waarborgen de rechten van betrokkenen beschermen. Ook het beheren, opschonen, verrijken en bewaren van data komt aan bod, net als indirecte dataverzameling en het gebruik van persoonsgegevens bij het trainen van modellen.

Het tweede document is een checklist waarmee organisaties stap voor stap beoordelen of ze generatieve AI willen, kunnen en mogen inzetten. Die is gemaakt voor privacyprofessionals, projectleiders en anderen die verantwoordelijk zijn voor een aanschaf. Het advies van de AP begint bij een nuchtere vraag: onderzoek eerst of je de tool kunt gebruiken zonder persoonsgegevens te verwerken. Is dat wel nodig, dan helpt de checklist om vanaf het begin te bepalen welke AVG-verplichtingen gelden en welke technische en organisatorische maatregelen erbij horen. Voor wie het gebruik van AI-tools intern wil vastleggen, sluit dat aan op het opstellen van een AI-toolbeleid dat shadow-AI tegengaat en aan de AVG voldoet.

Katja Mur, bestuurslid van de AP, vat de toon samen: generatieve AI verhoogt de productiviteit, maar dezelfde versnelling geldt voor de omvang en ernst van de risico’s. Innovatie is welkom, maar wel voorzien van stevige vangrails, zegt ze.

De Copilot-zaak laat de lat zien

Hoe streng die lat is, blijkt uit een advies dat de AP tegelijk publiceerde. De gemeente Haarlemmermeer vroeg een voorafgaande raadpleging aan over de inzet van Microsoft 365 Copilot. De conclusie: de voorgenomen verwerking zou inbreuk maken op de AVG. Om dat te voorkomen moet de gemeente extra maatregelen nemen, bijvoorbeeld medewerkers voldoende opleiden, en meer duidelijkheid van Microsoft zien te krijgen. Werkt Microsoft onvoldoende mee, dan kan de gemeente Copilot niet rechtmatig gebruiken.

Dat is geen randgeval. Copilot en ChatGPT staan bij talloze Nederlandse organisaties al aan, vaak zonder dat iemand de grondslag of de dataroute heeft vastgelegd. Het advies laat zien dat een breed uitgerolde, alledaagse tool bij een zorgvuldige toets alsnog onrechtmatig kan blijken, en dat de verantwoordelijkheid bij de gebruikende organisatie ligt, niet bij de leverancier.

De lijn wordt strakker

De richtlijnen zetten een lijn voort die de toezichthouder de afgelopen maanden strakker trok. Twee weken geleden waarschuwde vertrekkend AP-voorzitter Aleid Wolfsen dat gegevens die je in een publieke chatbot plakt er nooit meer uitkomen; nu ligt er het kader waarmee organisaties dat risico kunnen beheersen. De onderliggende boodschap blijft dezelfde: de AVG verbiedt AI niet, maar het risico zit niet in het model, maar in hoe je je data beheert. Wie de handreiking en de checklist naast zijn eigen AI-plannen legt, weet nu waar de toezichthouder straks naar kijkt.