Italiaanse toezichthouder verbiedt deepfakes van nieuwslezer: schermlabel is niet genoeg

De Italiaanse privacytoezichthouder Garante verbiedt Mediaset-dochter R.T.I. verder gebruik van AI-deepfakes met het gezicht en de stem van nieuwslezer Enrico Mentana, omdat de waarschuwing op het scherm te onduidelijk was.

Voor elk bedrijf dat met synthetische stemmen of gezichten werkt, verschuift dit de lat. De Garante keurde de markering van R.T.I. niet af omdat die ontbrak, maar omdat een kijker die even niet oplet hem kon missen. En de toezichthouder toetste aan de AVG, niet aan de AI-verordening, waardoor de norm nu al geldt voor iedere Nederlandse organisatie die een herkenbaar persoon nabootst in beeld of geluid.

Wat de toezichthouder besliste

Het besluit is provvedimento nummer 577, genomen op 23 juli en gepubliceerd op 7 augustus. Striscia la Notizia, het satirische programma van Canale 5, zette het gezicht van Mentana in de studio van het Tg La7 en liet hem met een door AI nagesynchroniseerde stem uitspraken doen die hij nooit heeft gedaan. De items liepen op televisie, op de programmasite, op de sociale kanalen van het programma en op streamingdienst Mediaset Infinity. Mentana diende zelf een klacht in op grond van artikel 77 van de AVG, nadat hij berichten kreeg waarin hij dronken, lafaard en clown werd genoemd.

De Garante geeft R.T.I. een formele berisping en verbiedt verdere verwerking van Mentana's beeld en stem op de beschreven manier. Het materiaal mag alleen nog bewaard worden voor een eventuele rechtsgang. Een boete blijft uit, omdat de rechtsvragen nieuw zijn en de techniek jong. R.T.I. moet wel binnen dertig dagen na ontvangst melden welke maatregelen het heeft genomen; gebeurt dat niet, dan volgen alsnog sancties op grond van artikel 166 van de Italiaanse privacywet en artikel 83, lid 5 van de AVG.

Waarom het label niet volstond

R.T.I. had de video's wel degelijk gemarkeerd. Er stond een vermelding van AI-gebruik in de titels, onder elke video op de programmasite hing een noot, op Mediaset Infinity liep een balk in beeld die meldde dat dit niet de echte Mentana was, en in het programma zelf werd het deepfake-gebruik aangekondigd.

Toch vond de Garante die waarschuwingen niet duidelijk, zichtbaar en begrijpelijk genoeg voor alle televisiekijkers en socialmediagebruikers. De kern van het bezwaar zit in wie de markering bereikte: niet de minder oplettende kijker, en evenmin iemand die halverwege de uitzending aanschoof. Daar kwam bij dat het realisme van de beelden en de slechte waarneembaarheid van de bewerking het publiek konden misleiden over de echtheid van het materiaal. De studiobeelden waren immers authentiek, ingekocht bij La7 onder een contract uit 2021; alleen de stem was nagesynchroniseerd. De overdrijving was volgens het besluit niet groot genoeg om meteen duidelijk te maken dat het om een vervalsing ging, anders dan R.T.I. betoogde.

Ook het argument dat satire vrij is van de waarheidsplicht en met overdrijving mag werken, hield geen stand. Een deepfake moet ook voor satirische doeleinden de menselijke waardigheid respecteren, stelt de toezichthouder.

De AVG deed het werk, niet de AI-verordening

R.T.I. voerde aan dat de informatieplichten uit de AI-verordening pas vanaf 2 augustus 2026 gelden. Dat klopt, en het hielp niet. De Garante toetste aan artikel 5, lid 1 van de AVG over rechtmatigheid, behoorlijkheid en transparantie, aan artikel 6 over de grondslag en aan artikel 25 over gegevensbescherming door ontwerp, aangevuld met het essentialiteitsbeginsel voor journalistiek uit de Italiaanse privacywet.

Dat verschil is voor een Nederlandse organisatie het belangrijkste van deze zaak. De AI-verordening voegde op 2 augustus een labelplicht toe, en de Autoriteit Persoonsgegevens legde die breed uit: een AI-stem die een door mensen geschreven script uitspreekt hoeft geen markering, de door AI gemaakte beelden in diezelfde reclame wel. Maar dat label gaat over transparantie. De vraag of je het gezicht of de stem van een herkenbaar persoon überhaupt mag verwerken, staat daar los van en wordt al acht jaar door de AVG beantwoord.

Een label plaatsen is dus niet hetzelfde als een grondslag hebben. Wie in zijn marketing een AI-stem of een AI-gezicht van een bestaand persoon inzet, heeft beide nodig: toestemming of een andere grondslag voor de verwerking, en een markering die de haastige kijker daadwerkelijk opvalt. Hoe je dat tweede praktisch inricht, van een AI-register tot de labeling van je chatbot, staat in de uitwerking van artikel 50 voor je eigen site.

De Garante is niet toevallig de eerste die hier ingrijpt. Dezelfde toezichthouder legde Character Technologies in juli een boete van 158.000 euro op voor gebrekkige leeftijdscontrole en een te laat uitgevoerde privacytoets. Italië bouwt zo, zaak voor zaak, een handhavingslijn op AI die andere Europese toezichthouders kunnen overnemen.

Wat er nu verschuift

De echte verschuiving zit in de maatstaf voor het label. In de praktijk gold tot nu toe: zet er een vermelding bij en je bent klaar. De Garante meet die vermelding voortaan aan de kijker die niet oplet, niet aan de kijker die hem zoekt. Dat maakt het een ontwerpvraag in plaats van een juridische afvinkactie: niet of de markering ergens staat, maar op welk contactmoment iemand hem onmogelijk kan missen.

En omdat de redenering op de AVG rust en niet op de AI-verordening, is er geen overgangstermijn om op te wachten. Wie vandaag een synthetische stem of een nagebootst gezicht van een bestaand persoon publiceert, valt onder een norm die al sinds 2018 geldt.