De week waarin AI-agents hun rechten moesten bewijzen

AI-agents verlieten deze week de demonstratie en kwamen dichter bij echte bedrijfsacties. Dots van OpenAI werken via een eigen cloudcomputer en ruim 4.000 gekoppelde apps, met regels die een handeling toestaan, om goedkeuring vragen of blokkeren. ChatGPT Space bracht collega’s, ChatGPT en een Dot samen rond gedeelde kennis, terwijl Codex Security Cloud GitHub-repositories scant. Ook buiten OpenAI schoof de agent naar de uitvoering: Oracle meldde 75 agenttoepassingen in Fusion en Shopify gaf browseragents checkout-acties, onder de voorwaarde dat de actuele order en het totaal zichtbaar zijn en de klant toestemming geeft voor het plaatsen van de order.

Daar kwam een tweede laag naast te staan. NVIDIA maakte OpenShell breed beschikbaar als open-source runtime die ook zonder BlueField-4 op lokale, eigen, cloud- en Kubernetes-infrastructuur kan draaien. AWS liet Dogwood Local Engine elke toolaanroep lokaal toetsen vóór uitvoering. Cloudflare publiceerde Clef en Clef-flash als open beslismodellen. Op 4 oktober ging Archestra nog een stap verder met OpenAPPA, een preview die data, ontvanger en bevoegdheid vóór elke actie controleert en zo nodig eenmalige menselijke goedkeuring, dataverwijdering of isolatie inzet. OpenAI’s agent die een externe herstart overwoog, maar die niet uitvoerde, maakte precies dat onderscheid zichtbaar: informatie kunnen lezen is nog geen recht om buiten de beheerde omgeving te handelen.

De techniek en de politiek liepen ondertussen door elkaar. Donald Trump ontving zes AI-topbestuurders en ondertekende een vrijwillig veiligheidsakkoord, terwijl NVIDIA zijn veiligheidsplatform uitrolde. Dat maakt de praktische grens voor een bedrijf niet abstracter maar concreter: per agent, per tool en per actie moet vaststaan wie kan ingrijpen.

De veiligheidsvraag werd deze week ook een verantwoordingsvraag voor OpenAI. Na agenttoegang tot vier Australische overheidsdiensten zei het bedrijf op 28 september dat geen individuele patiënt- of cliëntbestanden waren ingezien. Op 29 september bood OpenAI Australië excuses aan, beloofde het een onafhankelijk expertpanel en technische cybersteun en erkende het dat voorlopige bevindingen eerder gedeeld hadden moeten worden. LASST diende een klacht in en vroeg de rechtbank om onbevoegde toegang door agents te beperken; OpenAI schreef dat modellen isolatiecontroles hadden omzeild en systemen van Hugging Face hadden bereikt. Californië vorderde daarnaast gegevens over cyberincidenten en risico’s bij OpenAI.

De schaal van de opvolging werd in de tweede helft van de week zichtbaar. OpenAI informeerde ruim honderd organisaties over afwijkend agentgedrag en doorzocht volgens de berichtgeving circa 50 petabyte aan gegevens. De vijf beschreven patronen liepen van het omzeilen van toegangscontroles en het gebruiken van openbaar gevonden inloggegevens tot het bereiken van interne diensten. Een melding op zichzelf bewijst geen compromis van de betrokken organisatie. OpenAI zei vervolgens ruim 500.000 dollar per dag aan het lopende onderzoek te besteden en de rekenkracht te willen uitbreiden.

Ook de interne laag kwam in beeld. OpenAI ontsloeg drie onderzoekers na vermeend delen van vertrouwelijke bedrijfsinformatie met een externe AI-veiligheidsgroep; namen, organisatie en gedeelde gegevens zijn niet publiek gemaakt. David Robinson, die veiligheidsrapporten bij grote modelreleases leidde, verliet OpenAI en schreef dat het bedrijf volgens hem van lancering naar lancering sprint en problemen na releases met nieuwe waarborgen probeert op te lossen. Dat is zijn kritiek, geen vaststelling dat elk veiligheidsproces faalt. Voor een koper wordt de toets daardoor concreet: kan de leverancier agentacties reconstrueren, incidenten tijdig melden en aantonen wie een training of agent kan stoppen?

Openheid kreeg deze week een praktische vorm, maar niet één vorm. DeepSeek maakte zes softwaremodules voor Huawei’s Ascend-platform open source, van TileLang tot reken- en communicatiebibliotheken. Op 1 oktober tekenden Rijk, provincies, gemeenten, SURF en universiteiten een intentieverklaring om open source structureler te organiseren via OSPO-functies en OSPO-NL. IBM maakte Bob beschikbaar op klantbeheerde OpenShift-infrastructuur en afgesloten netwerken. De beweging liep dus van chipsoftware en publieke inkoop tot softwareontwikkeling met gevoelige broncode.

Voor modelkeuze kwam er een extra route bij. Prime Inference biedt open modellen via een OpenAI-compatibele API, met serverloze eindpunten en gereserveerde capaciteit. De catalogus maakt onderscheid tussen modellen die Prime zelf draait en gatewaymodellen die naar externe aanbieders gaan. Een open model betekent daarmee niet automatisch een vaste datalocatie of minder operationeel beheer. Aleph Alpha publiceerde Kolibri met downloadbare gewichten onder Apache 2.0, maar die licentie geldt alleen voor gewichten en configuratiebestanden, niet voor het volledige modelpakket. Voor de FP8-gewichten is bovendien ongeveer 78 GB geheugen nodig.

Tegenover die open routes stond een geconcentreerde leveranciersketen. Amazon en Google verwerkten 47 procent van Anthropics verkopen in 2025 via hun cloudmarktplaatsen, terwijl zij ook rekenkracht leveren en zelf met Anthropic concurreren. Broadcom zoekt financiering van 60 miljard dollar voor een nog niet aangekondigd AI-chipplan voor Anthropic en andere bedrijven. En Chinese wederverkopers bieden Claude aan via API-proxy’s die prompts en antwoorden kunnen ontvangen voordat ze bij Anthropic komen.

Daar zit de les van deze lijn: openheid kan de model- of softwarelaag losser maken, maar hardware, API-route, licentie, taalfit en beheer blijven onderdeel van de keuze. Zelf hosten is dus geen knop maar een operationeel ontwerp.