Brits observatorium telt ruim 300 AI-incidenten in juli, bijna een verdubbeling

Het Loss of Control Observatory registreerde in juli ruim 300 gevallen waarin AI-systemen zich aan de controle van hun gebruiker onttrokken, bijna een verdubbeling ten opzichte van juni, meldt The Guardian.

Onder die gevallen zitten agents die zich voordoen als hun eigen menselijke opdrachtgever en diens schrijfstijl nabootsen, zodat ze zichzelf toestemming geven en zo een regel omzeilen die menselijke goedkeuring eist. Voor een Nederlandse organisatie die een agent schrijfrechten geeft in haar CRM, mailbox of orderstroom verandert dat de status van de goedkeuringsstap. Een poort die de agent zelf kan invullen is geen controle maar een formaliteit. Wat telt is of de goedkeuring buiten het bereik van de agent staat, en of achteraf te zien is wie hem gaf.

Wat het observatorium telde

In heel 2026 staat de teller op ruim 1.600 loss-of-control-incidenten. De meeste zijn gemeld door softwareontwikkelaars die AI in hun dagelijkse werk gebruiken. Het observatorium hanteert een strakke drempel: er moet duidelijk bewijs zijn van scheming, gedrag waarbij een systeem doelen nastreeft die het voor zijn gebruiker verborgen houdt, of van gedrag dat daar sterk op lijkt.

De ernst schuift mee omhoog. De meeste geregistreerde gevallen leidden niet tot noemenswaardige schade, maar een groeiend deel krijgt een hogere ernstscore op hoe misleidend het gedrag was en hoe ver het van de bedoeling van de gebruiker af stond. Het observatorium omschrijft wat het ziet als bereidheid van AI-systemen om directe instructies te negeren, waarborgen te omzeilen, tegen gebruikers te liegen en eenzijdig een doel na te jagen op manieren die schade opleveren.

"Er bestaat soms het idee dat dit soort ontspoord en heimelijk gedrag alleen in tests of evaluaties voorkomt, maar we zien vergelijkbaar zorgwekkend gedrag in breder gebruik", zegt Tommy Shaffer Shane, senior beleidsmanager bij het Centre for Long-Term Resilience, dat het observatorium beheert, tegen The Guardian.

De telling komt van X, niet van meldingen

Het cijfer verdient een voorbehoud, en het observatorium maakt dat zelf. De methode is open bronnenonderzoek: het analyseert transcripten van gesprekken met AI-systemen die gebruikers op X plaatsen, ongeveer een miljoen berichten per maand via de programmeerkoppelingen van het platform. Er zit geen officieel meldpunt achter, geen verificatie door de betrokken bedrijven en geen zicht op incidenten die niemand publiek deelt. Het observatorium noemt zijn eigen telling daarom onvolledig en waarschijnlijk een onderschatting.

Ook de vergelijking tussen maanden is niet hard. In zijn eerste rapport van 27 maart 2026 doorzocht het observatorium ruim 183.000 transcripten uit de periode oktober 2025 tot maart 2026 en telde daarin 698 scheming-gerelateerde incidenten, een groei van 4,9 keer over die periode, met 319 gevallen in de laatste gemeten maand. Hoe die telling zich verhoudt tot de ruim 300 van juli maakt het observatorium niet expliciet, en de definities lopen uiteen. In datzelfde rapport beveelt het aan om een methode te ontwikkelen die een echte gedragsverandering kan onderscheiden van simpelweg meer meldingen.

De poort hoort buiten de agent

Het gedrag dat het observatorium beschrijft raakt precies de plek waar veel organisaties hun controle inbouwen. Zit de goedkeuringsstap in het gesprek met de agent zelf, dan is hij na te bootsen. Zit hij in de workflow, met een eigen kanaal, een goedkeurder met naam en een eigen log, dan niet. Praktisch komt dat neer op per handeling bepalen of hij automatisch doorloopt of wordt stilgelegd tot een mens beslist, gescoord op impact, omkeerbaarheid en hoe scherp de actie is afgebakend. De andere helft is herleidbaarheid achteraf: logging, tokenbudgetten en een kill-switch laten zien wat er gebeurde toen niemand keek.

Wat de labs zelf zien

Shaffer Shane vraagt om meer openheid van de AI-bedrijven, ook over bijna-ongelukken en incidenten met lage ernst. Volgens hem laten de recente gevallen zien dat die bedrijven zelf niet altijd bijhouden waar dit gedrag optreedt, zeker niet bij modellen die ze intern uitrollen.

Dat sluit aan op wat er deze zomer boven water kwam. OpenAI vond in logdata van eerder dit jaar meer agents die uit hun afgeschermde omgeving braken, pas nadat het er gericht naar ging zoeken. De Britse toezichthouder AISI, die het observatorium met geld uit zijn Challenge Fund financiert, zag in eigen cybertests in tien van 122 runs negentien acties op het echte internet, buiten de afgesproken testgrenzen.

Buiten het lab gebeurt hetzelfde met gewone gebruikers. In augustus kwam naar buiten dat de persoonlijke agent van een Australische sportschoolklant een lek in het boekingssysteem misbruikte en een andere klant van de wachtlijst haalde om zijn eigenaar aan een plek in een ochtendles te helpen. De agent bood excuses aan en kon de verwijdering niet ongedaan maken.

Wat het observatorium vraagt

Het observatorium wil dat de Britse overheid AI-bedrijven verplicht ernstige loss-of-control-incidenten te monitoren en te melden, en dat zij noodbevoegdheden krijgt om AI-diensten tijdelijk te beperken wanneer het ernstig misgaat. Die bevoegdheden bestaan nu niet, in het Verenigd Koninkrijk niet en in Nederland evenmin.

Wat deze cijfers vooral verschuiven, is waar het gesprek over ontspoorde AI thuishoort. Tot deze zomer ging het over evaluaties in labs, met modellen die onder toezicht van hun eigen makers uit een sandbox braken. De gevallen die nu geteld worden komen uit gewoon werk: een ontwikkelaar met een codeeragent, een klant met een boekingsassistent, een agent met schrijfrechten in een systeem dat niemand die dag in de gaten hield. Het onderscheid dat dan overblijft is niet dat tussen een veilig en een onveilig model, maar dat tussen een goedkeuring die een systeem zelf kan afgeven en een die het niet kan.