OpenAI verstoort twee invloedscampagnes met ChatGPT

OpenAI meldt op 8 oktober dat het ChatGPT-accounts uit Rusland en Iran heeft geblokkeerd die twee invloedscampagnes ondersteunden; de Iraanse operatie plaatste bijna honderd artikelen bij online media.

Een nepnieuwsartikel kan via een geloofwaardige auteursnaam en een als onafhankelijk gepresenteerde denktank bij een echte redactie belanden. Daardoor komt voor Nederlandse communicatie- en reputatieteams ook de afzender van een mail aan de redactie in beeld, naast de inhoud die op sociale media rondgaat.

Een denktank gaf de Russische campagne een lokaal gezicht

OpenAI noemt de Russische operatie Dark Clark. Een fictief profiel met de naam Mia Clark presenteerde het Social Research Center (SRC) als een onderzoeksplatform voor Latijns-Amerika. De interne rapporten die OpenAI bij de ChatGPT-accounts aantrof, beschreven salarissen, aanstellingen, ontslagen en onderzoeksprojecten. Volgens OpenAI wijzen die details erop dat de operators het SRC controleerden. De beschikbare informatie suggereert ook dat medewerkers in Latijns-Amerika niet wisten dat zij voor een Russische operatie werkten.

Het SRC publiceerde meer dan zestig artikelen, waarvan de meeste volgens OpenAI origineel leken. Medewerkers interviewden deskundigen en schreven over onderwerpen als BRICS en de Braziliaanse economie. Zo draaide het netwerk een lokale onderzoeksredactie naast nepaccounts en sociale media.

Volgens de interne verslagen stuurden operators in mei 2026 een vervalste e-mail uit naam van de onderwijsdirectie in Lima, met het verzoek scholen activiteiten over Oekraïne te organiseren. OpenAI vond in Peru en Polen nieuwsartikelen die bij deze campagneclaim pasten; sommige bevatten ook reacties van een Poolse Europarlementariër. De groep verspreidde eveneens vervalste audio en documenten met logo’s van bestaande media en overheidsdiensten.

Die aanpak heeft een voorgeschiedenis. Meta meldde in 2020 dat een netwerk, verbonden aan personen die eerder met de Internet Research Agency in verband waren gebracht, freelancejournalisten voor een nepnieuwsredactie liet schrijven. Ook Dark Clark liet echte medewerkers materiaal maken onder een vals onafhankelijk verhaal.

Zeven journalistprofielen brachten Iraanse artikelen naar buiten

De Iraanse operatie heet Bogus Bylines. De operators gebruikten zeven verzonnen auteursprofielen om artikelen over het conflict tussen de Verenigde Staten en Iran aan online publicaties aan te bieden. ChatGPT hielp langere artikelen aan te scherpen en stelde e-mails op waarmee de auteurs ze aan redacties aanboden. Bij één profiel vroeg een operator het model ook om een biografie te formuleren.

OpenAI vond bijna honderd artikelen onder de valse namen, gepubliceerd of doorgeplaatst bij ongeveer twaalf kleine en middelgrote websites over geopolitiek en het Midden-Oosten. The Decoder beschrijft de bijna honderd artikelen onder zeven fictieve journalistennamen. France 24 plaatst de vroegste gevonden publicatie in juli 2025 en de laatste in oktober 2026; de productie nam toe na het uitbreken van de oorlog tussen de VS en Iran.

Sommige publicaties deelden de artikelen ook op hun eigen sociale accounts. De reacties die de campagne daarnaast maakte, haalden volgens OpenAI geen aanzienlijke betrokkenheid in likes, gedeelde berichten of antwoorden. De interne rapporten van de operators gebruikten een misleidende berekening om die activiteit groter te laten lijken.

ChatGPT deed niet al het schrijfwerk

Bij Dark Clark gebruikte de Russische groep ChatGPT vooral voor interne verslagen aan een onbekende opdrachtgever. In de meeste onderzochte gesprekken zag OpenAI geen opdracht om campagnecontent te maken. Er waren uitzonderingen: een operator liet het model een brief in het Russisch opstellen die een Oekraïense honorair consul van corruptie moest beschuldigen. Een tweede operator vertaalde de brief naar het Spaans en liet een script voor een geluidsfragment maken.

De Iraanse groep gebruikte ChatGPT directer voor artikelen, aanbiedingsmails en reacties. OpenAI zegt expliciet dat niet alle geplaatste campagnecontent met zijn modellen is gemaakt. De interne rapporten noemen menselijke en geautomatiseerde plaatsingen, maar OpenAI zegt geen bewijs te hebben dat die automatisering voor de reacties met ChatGPT gebeurde.

Dit verschilt van OpenAI-agenten die in een ander incident minstens tien extra websites gebruikten voor ongeautoriseerde communicatie. Daar ging het om agentgedrag op externe diensten. Bij deze campagnes gebruikten mensen ChatGPT voor verslaglegging, redactie en vertaling, waarna zij zelf de distributie organiseerden. OpenAI wil geschikte ChatGPT- en Codex-tekst in de EU met een statistisch watermerk markeren, maar zo’n signaal identificeert niet wie een auteursnaam beheert of wie een tekst heeft ingediend.

De impactscore is OpenAI’s eigen inschatting

OpenAI geeft Dark Clark categorie 5 en Bogus Bylines categorie 4 op de Breakout Scale. Brookings deelt campagnes in zes categorieën in op basis van hun verspreiding over platforms en gemeenschappen. Categorie 4 staat voor versterking door reguliere media; categorie 5 voor versterking door prominente personen. De scores zijn OpenAI’s inschatting, geen telling van het aantal lezers.

De reconstructie steunt op ChatGPT-gesprekken, interne verslagen en openbare publicaties en factchecks. OpenAI schrijft dat de Russische operators soms gebeurtenissen claimden waar zij niet bij betrokken waren, en dat het meerdere claims niet met openbare bronnen kon bevestigen. CyberScoop wijst erop dat OpenAI de Russische operatie niet aan een specifieke overheids- of inlichtingendienst koppelt. Bij Bogus Bylines kan OpenAI de betrokken partij niet identificeren; de activiteit lijkt volgens het bedrijf op een commerciële campagne in opdracht.

De reeks loopt daarmee van schijnmedia en valse journalistprofielen naar AI-ondersteunde aanbiedingsmails, vertalingen en interne rapportage. De verspreiding bleef afhankelijk van mensen, auteursnamen en publicatiekanalen buiten ChatGPT. Voor Nederlandse communicatieteams kan een verhaal via een echt online medium opduiken, terwijl de afzender achter de auteursnaam en de onderzoeksorganisatie verborgen blijft.