AI-hallucinatie in dreigingsrapport leidt tot rechtszaak tegen Koi en Palo Alto

Een dreigingsrapport bestempelde een vrijwel onbekend videoconferentiebedrijf als dekmantel voor Chinese spionage. Het belangrijkste bewijs: een browserextensie die volgens het beschuldigde bedrijf nooit heeft bestaan. De conclusies kwamen niet van een menselijke analist, maar van een AI-model, en ze belandden vrijwel ongefilterd online. Nu ligt er een rechtszaak in de Verenigde Staten, en die raakt een vraag die elk bedrijf aangaat dat op AI-gegenereerde rapporten leunt: wie draait op voor de schade als de machine iets verzint?

Wat er precies gebeurde

Het securitybureau Koi Security publiceerde eind december 2025 een blog waarin het het Amerikaanse MeetingTV en diens Zoomcorder-dienst neerzette als infrastructuur van 'Dark Spectre', een aan China gelieerde dreigingsgroep. Bij dat verhaal hoorde volgens het rapport een browserextensie die 2,2 miljoen gebruikers over dertig videoconferentieplatforms zou hebben besmet. Koi leunde voor die conclusies op zijn eigen AI-analyseplatform Wings, dat verbanden tussen cybercampagnes moet blootleggen.

Het probleem: die extensie bestaat volgens MeetingTV niet. In de aanklacht stelt het bedrijf dat Koi zijn conclusies als definitief onderzoeksfeit publiceerde zonder voldoende menselijk toezicht, zonder basale attributiecontroles en zonder MeetingTV vooraf te benaderen. Het gevolg was concreet en pijnlijk: securityleveranciers als Cloudflare, Fortinet en Cisco Talos zetten de domeinen van MeetingTV op de zwarte lijst en labelden ze als malware en command-and-control-infrastructuur. 'Als mensen op internet je bedrijf niet meer kunnen bereiken, is dat een doodvonnis', verklaarde MeetingTV-topman Michael Robertson tegenover The Register.

Een overname van 400 miljoen dollar onder de loep

De zaak krijgt een extra laag doordat Palo Alto Networks, een van de grootste securitybedrijven ter wereld, Koi in april 2026 overnam voor 400 miljoen dollar. Het omstreden rapport verscheen tijdens de overnamegesprekken. MeetingTV suggereert in de aanklacht dat de spraakmakende publicatie mede bedoeld was om de waardering van Koi op te pompen en verkoopleads te genereren, met het Wings-platform als de aangeprezen oplossing. De topman van MeetingTV zegt de CEO van Palo Alto ongeveer twee weken na het sluiten van de deal te hebben benaderd.

Reageren de kopers inhoudelijk? Palo Alto Networks liet weten op de hoogte te zijn van de rechtszaak en die via de juridische weg af te handelen, en verdedigde het onderzoek van Koi als onderdeel van diens werk om dreigingen bloot te leggen. Koi zelf heeft publiekelijk niet gereageerd en nam naar eigen zeggen van MeetingTV nooit vooraf contact op; het bedrijf paste het rapport later wel aan en verwijderde de verwijzingen naar MeetingTV. Dat is precies de volgorde die het risico blootlegt: eerst publiceren als feit, pas corrigeren nadat de schade is aangericht.

Waarom dit jouw bedrijf aangaat

Dit staat niet op zichzelf. Eerder bleek dat bij een ingetrokken adviesrapport slechts vijf van de vijfenveertig citaten van KPMG klopten en de rest verzonnen was, met vergelijkbare gevallen bij EY en Deloitte. Het nieuwe aan de zaak-Koi is dat de hallucinatie niet in een intern rapport bleef, maar via geautomatiseerde blokkeerlijsten meteen een ander bedrijf offline duwde. En de juridische wind draait: een Duitse rechter oordeelde onlangs dat Google rechtstreeks aansprakelijk is voor feitelijke fouten in zijn AI-overzichten, een teken dat 'de AI verzon het' steeds minder als verweer standhoudt.

Voor jou zitten hier twee lessen in. De eerste is dat je AI-gegenereerde output nooit ongecontroleerd als feit mag doorzetten naar buiten, of dat nu een securityrapport, een due-diligencememo of een klantmail is. Zodra jij die output publiceert of doorstuurt onder je eigen naam, belandt de rekening voor de fout bij jou en niet bij de modelbouwer, tenzij je kunt aantonen dat je voldoende toezicht hield. De tweede les zit aan de ontvangende kant: leun je bij een overname, leverancierskeuze of risicobeoordeling op een AI-gegenereerd rapport, controleer dan de onderliggende bronnen zelf. Palo Alto betaalde 400 miljoen dollar mede op basis van onderzoek waarvan nu de kern wordt betwist.

De rode draad is verificatie. Een taalmodel levert een verzonnen verband met exact dezelfde stellige toon als een gecontroleerd feit. Het verschil dat voor jou alles bepaalt, bestaat voor het model niet, en dus moet je dat verschil zelf inbouwen: een menselijke check, een traceerbare bron en een tweede paar ogen voordat een AI-conclusie de deur uit gaat. Wie dat overslaat, ontdekt de fout pas op het moment dat een klant, een toezichthouder of een rechter de rekening presenteert.