ICO meldt privacywijzigingen bij tien AI-ontwikkelaars en opent agentconsultatie

Tien AI-modelbouwers hebben privacywijzigingen rond persoonsgegevens doorgevoerd of toegezegd, meldt de Britse ICO op 8 oktober; tegelijk opent de toezichthouder een openbare consultatie over privacyrisico’s van AI-agenten.

De leveranciersvraag verschuift daardoor van alleen een privacyverklaring naar bewijs over trainingsdoelen, bewaartermijnen, internationale doorgifte en de werking van waarborgen. Bij Nederlandse teams die AI op klant- of personeelsgegevens inzetten, komt daar controle tijdens gebruik bij: welke gegevens kan een agent opvragen, naar welke systemen kan die informatie gaan en wat kan de organisatie achteraf reconstrueren?

De wijzigingen lopen uiteen per aanbieder

De tien ontwikkelaars zijn Amazon, Anthropic, Apple, Cohere, DeepSeek, Google, Meta, Microsoft, OpenAI en Stability AI. Een deel van de aanpassingen is al doorgevoerd; andere maatregelen zijn toegezegd. De ICO noemt per ontwikkelaar de wijzigingen en onderbouwing van waarborgen en zegt de uitvoering te blijven volgen.

Apple, Cohere en OpenAI hebben transparantie-informatie aangepast. Die omvat aparte uitleg over modeltraining, gegevensbronnen, bewaartermijnen, internationale doorgifte en privacyrechten. Apple heeft ook een overzicht van bronnen voor basismodeltraining gepubliceerd.

Voor Amazon, Anthropic, DeepSeek, Google, Meta, Microsoft en Stability AI noemt de ICO losse modelontwikkelinformatie, samenvattingen van trainingsdata, duidelijkere privacyrechten en extra uitleg over doelen, bewaartermijnen en buitenlandse doorgifte. Een deel van deze stappen is al gezet, een deel toegezegd.

De rapportage maakt ook verschillen per aanbieder zichtbaar. Anthropic heeft zijn privacyverklaring voor niet-gebruikers en de onderbouwing van gerechtvaardigd belang aangepast. DeepSeek heeft zo’n onderbouwing opgesteld en zegt zijn privacybeleid uit te breiden. Meta leverde resultaten van tests op het onthouden van persoonsgegevens en onderzoek naar zijn privacyinformatie. Google wil bewijs uit tests en benchmarks toevoegen; OpenAI heeft zijn onderbouwing van waarborgen bijgewerkt. Microsoft en Stability AI zeggen die te herzien of versterken. Apple wil zijn documentatie uitbreiden met doelen en uitsluitingsfilters.

Voor bijzondere persoonsgegevens noemen ontwikkelaars ontdubbelen, filteren en testen in meerdere talen. De ICO zag ook bewijs van vergelijking met hashes, software die gegevens classificeert, menselijke beoordeling en hulpmiddelen die seksueel beeldmateriaal van kinderen opsporen. Een passende grondslag kan lastig zijn, zegt de toezichthouder. Ontbreekt die, dan raadt de ICO aan zulke gegevens te weren, eruit te filteren of verwerking ervan te vermijden.

Het toezicht heeft een voorgeschiedenis

De ICO volgt ontwikkelaars van basismodellen al drie jaar. Eerdere interventies met Meta, Microsoft en LinkedIn moesten gebruikers meer uitleg en bezwaarmogelijkheden geven rond modeltraining. Het programma dat de AI- en biometriestrategie uit 2025 opzette, omvatte elf aanbieders. De ICO selecteerde die op nalevingsrisico, marktaandeel in het VK en risicovollere trainingsdatasets. Na het formele onderzoek naar Grok schortte de ICO het programma met xAI op.

De Nederlandse privacyvraag bij AI bestond al. Een eerdere analyse beschreef datascheiding, doelbinding, logging en externe modelleveranciers als onderdelen van AVG-zorg. Op 6 oktober ging de Nederlandse discussie over een ander spoor: het kabinet legde ontwikkelaars verantwoordelijkheid op voor risicobeperking tijdens ontwikkeling en tests. De ICO richt zich hier op privacyinformatie en rechten rond modeltraining, plus gegevensbescherming bij agenten.

In de EU geldt daarnaast de AI-verordening voor aanbieders van algemene AI-modellen. De Europese Commissie noemt technische documentatie, een auteursrechtbeleid en een samenvatting van trainingsmateriaal voor alle aanbieders. Bij modellen met systeemrisico komen risicobeoordeling, beperking, incidentmelding en cyberbeveiliging erbij. De Europese AI-verordening stelt aparte eisen aan modelaanbieders. De ICO-publicatie behandelt daarnaast persoonsgegevens onder het Britse gegevensbeschermingsrecht.

Agenten brengen privacy naar de uitvoering

De ICO vraagt ontwikkelaars, gebruikers en experts om bewijs over beveiliging, transparantie in de leveranciersketen, verantwoordelijkheid, geautomatiseerde besluitvorming, eerlijkheid en doelbinding, en rechtmatige gegevensverwerking. De oproep beschrijft deze zes thema’s; reacties zijn uiterlijk 20 november welkom. De antwoorden voeden praktische uitleg en een wettelijke gedragscode voor AI en geautomatiseerde besluitvorming.

De ICO heeft vragen gesteld aan OpenAI, Anthropic, Meta en het Britse AI Security Institute over agenttests en inzet eerder dit jaar. In sommige meldingen zouden agents beveiligingen hebben omzeild, ongeoorloofde communicatiekanalen hebben gebruikt en externe systemen zoals Hugging Face hebben benaderd. De vragen lopen nog; de ICO presenteert geen afgeronde bevindingen over deze bedrijven.

Voor inkopers liggen hier twee verschillende controles. Modelinformatie beschrijft de omgang met trainingsdata; agentbeheer gaat over toegangsrechten, doorgifte en verantwoordelijkheid nadat een agent websites, tools of bedrijfssoftware kan aanroepen. De consultatie vraagt expliciet hoe organisaties die verantwoordelijkheden verdelen en aantonen.

Toezeggingen zijn nog geen afgeronde controle

Het rapport zegt niet dat alle tien aanbieders volledig voldoen. Sommige wijzigingen zijn uitgevoerd, andere staan nog op de planning. De ICO volgt de voortgang, noemt geen opleverdatum voor iedere toezegging en erkent dat bestaande trainingspraktijken technische uitdagingen geven bij naleving van gegevensbeschermingsregels.

De aankondiging verandert de Nederlandse wet niet; de ICO spreekt over het Britse gegevensbeschermingsrecht. Voor Nederlandse inkopers biedt de publicatie concrete gesprekspunten over herkomst en verwerking van trainingsdata, naast controle over agenten tijdens gebruik. Die vragen spelen op verschillende momenten in de leveranciersketen. Reacties zijn uiterlijk 20 november welkom; daarna gebruikt de ICO ze voor verdere uitleg en de gedragscode.