Meta zet AI in tegen advertenties die naar misbruik leiden

Meta zet op Facebook en Instagram nieuwe AI-controles in voor advertenties die kindermisbruikmateriaal tonen of mensen heimelijk naar verboden sites leiden, maakte het bedrijf op 7 oktober bekend.

Voor organisaties die via Meta adverteren, verschuift de veiligheidsvraag naar de bestemming achter de advertentie. Een ogenschijnlijk gewone afbeelding of tekst kan alsnog bezoekers naar illegale inhoud buiten het platform leiden. Meta zegt daarom ook naar de route achter een advertentie te kijken. De aankondiging noemt geen dashboard waarmee adverteerders de uitkomsten zelf kunnen bekijken.

Meta zoekt naar verborgen verwijzingen

Meta noemt de tactiek ‘signposting’: een advertentie lijkt op zichzelf onschuldig, maar bevat aanwijzingen die gebruikers heimelijk naar verboden materiaal of andere schadelijke activiteit buiten Meta leiden. Een nieuw taalmodel zoekt naar zulke signalen in advertentie-inhoud. Het systeem richt zich op advertenties die materiaal van seksueel kindermisbruik tonen én op advertenties die mensen doorsturen naar overtredingen op andere websites.

Na het herkennen van een advertentienetwerk zegt Meta verder te hebben gezocht dan de advertenties waarover het meldingen ontving. Het bedrijf onderzocht verwante activiteit op zijn platforms, schakelde de betrokken accounts uit en blokkeerde de externe links. Meta zegt dat advertenties met een al geblokkeerde link bij het uploaden worden afgewezen.

De nieuwe controle is onderdeel van een bredere set maatregelen. Meta voert extra AI-scans uit om materiaal te vinden dat eerdere systemen misten, en gebruikt een red-teamagent die de eigen verdediging op zwakke plekken test. Het bedrijf verbetert ook de herkenning van mensen die na verwijdering met nieuwe accounts terugkeren. Meta zet ook een taalmodel in voor signposting, controleert advertentiebestemmingen en test de eigen verdediging met een red-teamagent, schrijft TechCrunch op basis van de aankondiging.

De linkcontrole staat naast bestaande detectie

Meta zegt PhotoDNA en vergelijkbare beeld- en videomatching sinds 2011 op al zijn apps te gebruiken. Het systeem herkent bekende beelden en bijna-identieke kopieën. Meta deelt digitale vingerafdrukken van nieuw geïdentificeerd materiaal via het Lantern-programma van de Tech Coalition. Het bedrijf past beeldmatching ook toe op voorvertoningen van externe links.

De aankondiging beschrijft verder gedragsignalen en regels die verschillende classifiers en AI-modellen combineren. Wanneer Meta een externe site blokkeert, zoekt het naar andere berichten, reacties en advertenties met dezelfde link. Het bedrijf zegt die content te verwijderen en nieuwe advertenties met geblokkeerde bestemmingen bij binnenkomst te weigeren. Meta’s team voert ook handmatige onderzoeken uit naar netwerken van accounts.

Voor een adverteerder omvat de campagnebeoordeling dus ook de link naar de landingspagina en het netwerk achter het account, naast de afbeelding of tekst. Meta noemt geen instelling in Ads Manager waarmee een bedrijf kan zien welke signalen zijn campagne hebben geraakt of hoe een bestemmingslink is beoordeeld.

De cijfers gaan over alle content

Meta meldt dat het wereldwijd tussen januari en juni 2026 actie ondernam op 33,2 miljoen stukken content rond seksuele uitbuiting van kinderen op Facebook en Instagram. Meer dan 97 procent daarvan vond het bedrijf naar eigen zeggen voordat iemand het meldde. In India ondernam Meta actie op 5,3 miljoen stukken content, waarvan ruim 98 procent proactief werd gevonden. CNBC TV18 meldt dat Meta in India 5,3 miljoen stukken content aanpakte en ruim 98 procent vóór een gebruikersmelding vond.

Die aantallen zijn geen advertentiecijfers. Meta splitst niet uit hoeveel advertenties zijn gevonden, hoeveel externe links zijn geblokkeerd of hoeveel gevallen de nieuwe taalmodelcontrole oppikte. Het bedrijf publiceert ook geen foutmarge, aantallen foutieve meldingen, landenlijst voor de nieuwe advertentietools of resultaatmeting per instrument. De percentages zeggen dus iets over de bredere moderatie van content, niet over de nauwkeurigheid van deze specifieke advertentiecontrole.

De Internet Watch Foundation meldde dat haar analisten in januari tot en met juni 6.310 AI-gegenereerde beelden beoordeelden. De IWF-telling van 6.310 AI-beelden betreft vondsten die analisten beoordeelden, geen wereldwijde schatting. Die meting gaat over beelden, niet over advertenties of alle online verspreiding. Ze is daarom niet rechtstreeks te vergelijken met Meta’s veel bredere aantal contentitems waarop het bedrijf actie ondernam.

Platformen en toezichthouders leggen de lat

Ook Google beschrijft AI en menselijke controle als onderdelen van advertentiemoderatie. De beleidsdocumentatie zegt dat Google AI combineert met menselijke beoordeling en complexe of ernstige gevallen naar gespecialiseerde reviewers stuurt. Dat maakt de route achter een advertentie een bredere platformkwestie. Meta’s aankondiging legt nadruk op het herkennen van verborgen verwijzingen en het volgen van bestemmingen buiten het eigen netwerk.

In Europa loopt een andere discussie over de bescherming van minderjarigen op dezelfde platforms. De Europese Commissie stelde op 10 juli voorlopig dat Meta de risico’s van oneindig scrollen, autoplay, pushmeldingen en aanbevelingen onvoldoende had beoordeeld. Die DSA-zaak over Meta’s autoplay en oneindige scroll gaat over platformontwerp en welzijn, niet over advertentielinks. De onderwerpen raken verschillende controles. Bij beide gaat het om de risico’s die Meta vooraf ziet en de maatregelen die het aantoonbaar uitvoert.

Meta meldt dat de nieuwe AI-maatregelen al zijn ingezet, maar publiceert geen advertentie-specifieke resultaten. De aankondiging laat open hoeveel verborgen routes de AI vond, hoe vaak legitieme advertenties worden geraakt en in welke landen de nieuwe controles beschikbaar zijn. Voor bedrijven die via Facebook of Instagram adverteren, is de bestemming van een campagne daarmee onderdeel van de platformcontrole, terwijl de werking ervan achter de schermen blijft.