De week waarin AI-veiligheid botste met de rekenkracht eronder

Vorige week kreeg de veiligheidsrem bijval, maar nog geen regelboek. Deze week koppelde Dario Amodei zijn oproep om frontier-AI te vertragen aan chiptoegang, modeldistillatie en de beveiliging van modelgewichten. Het Chinese ministerie van Buitenlandse Zaken wees die combinatie af. Daarmee stond de veiligheidsvraag meteen naast de geopolitieke vraag wie toegang houdt tot AI-capaciteit.

Google, OpenAI en Anthropic bespraken in dezelfde week een gezamenlijke standaard voor frontier-modellen. OpenAI steunde daarnaast in de FRONTIER Act een federale plicht voor onafhankelijke veiligheidstoetsen, terwijl het AI Evaluator Forum echte toegang voor onafhankelijke evaluatoren eiste. Anthropic koos Accenture als eerste embedded evaluator en voert gesprekken met METR en andere non-profit-evaluatoren.

Jensen Huang koos een andere route en noemde een speciale antitrustvrijstelling voor gezamenlijke AI-veiligheidsafspraken onnodig. De botsing gaat daardoor niet alleen over de vraag of veiligheid telt, maar ook over wie de meetlat beheert, welke informatie beschikbaar komt en of een leverancier zelf de grens mag trekken. Voor een Nederlandse inkoper hoort dat dossier naast prijs, prestaties en privacy te liggen.

Vorige week draaide compute om de vraag of een leverancier vervangbaar is. Deze week werd zichtbaar hoe diep de financiering achter zo’n leverancier gaat. Anthropic werd volgens de berichtgeving gekoppeld aan een zesjarig GPU-contract van 13,7 miljard dollar met RUM Group. De locatie in Georgia moet nog worden gebouwd en RUM Group had nog geen financiering voor de site en de benodigde GPU’s. Dat maakt leveringszekerheid afhankelijk van meer dan de prestaties van Claude.

Aan de Europese kant haalde Euclyd ruim 200 miljoen euro op voor CRAFTWERK, een architectuur voor AI-inferentie waarvan de chips nog niet worden geleverd. Axelera AI verscheept met Europa wel al een AIPU en PCIe-kaarten voor lokale enterprise-inferentie. De route naar minder afhankelijkheid van één chipleverancier bestaat deze week dus uit zowel financiering als leverbare hardware, maar de volwassenheid verschilt.

Voor klanten werd de schaarste direct zichtbaar. Nebius verhoogt per 1 oktober de pay-as-you-go-tarieven voor Nvidia-GPU’s met 17 tot 21 procent. Op 20 september rapporteerde NVIDIA bovendien een maximale bruto-exposure van 108,5 miljard dollar aan AI-gerelateerde garanties. De modelkeuze eindigt daarmee niet bij een API-prijs. Ook capaciteit, looptijd, financiering en de partij die het risico draagt horen in de rekensom.

Na de Europese toegangsvraag uit vorige week werd deze week zichtbaar hoe concreet zo’n grens is. Apple bracht Siri AI als Engelstalige bèta uit, maar hield de functie buiten iOS, iPadOS en watchOS in de Europese Unie. Een assistent kan dus live zijn en toch ontbreken op het apparaat waarop het werk gebeurt.

Google liet engineers door het hele bedrijf Claude Opus 5 gebruiken via Antigravity, met quota per medewerker, terwijl Gemini het primaire model bleef. Anthropic bracht tegelijk een workflow voor financiële adviseurs uit met connectors voor onder meer Microsoft 365, Salesforce, DocuSign en Box. De relevante vraag verschoof daarmee van welk model het beste scoort naar welke model-, platform- en contractroute een organisatie werkelijk kan beheren.

Mozilla zette open-weightmodellen op ongeveer 4,4 maanden achterstand op gesloten Amerikaanse frontiermodellen. Kimi K3 haalde volgens het rapport bijna dezelfde indexscore voor ongeveer 30 procent van de prijs, maar vroeg nog steeds gespecialiseerde hardware. En in Singapore bouwden OpenAI, Anthropic en Google teams voor de stap van model naar productie. De vervangbaarheid groeit, maar de uitvoeringslaag blijft beslissend.

Vorige week verschoof de grens van de agent naar buiten, richting echte systemen en processen. Deze week werd die grens operationeel. Microsoft meldt dat het aantal actieve agents in het Microsoft 365-ecosysteem in een jaar vijftien keer groeide en analyseerde 40.093 enterprise-agents. De lange staart zit niet alleen in samenvatten en zoeken, maar ook in security, supply chain, finance, zorg en facturatie. Zodra een agent werk verplaatst, worden bevoegdheden en menselijke overdracht onderdeel van de taak.

De veiligheidsgrens bleek deze week niet alleen theoretisch. Google meldde dat Gemini tijdens een cybersecuritytest drie echte bedrijfssystemen bereikte nadat internettoegang in de testomgeving onbedoeld openstond. Google zei dat het model in alle drie de gevallen stopte zodra het een echte organisatie herkende. Plugin4Shell liet vervolgens zien dat een kwaadaardige pluginrepository de versiepinning van vier AI-codeeragenten kon omzeilen en zonder gebruikersklik code kon laten uitvoeren.

OpenAI-CEO Sam Altman noemde de Hugging Face-inbraak het ergste ongeluk van OpenAI; Hugging Face reconstrueerde ongeveer 17.600 handelingen. Aan de andere kant van dezelfde uitvoeringsketen schat INTERPOL AI-ondersteunde fraudetactieken wereldwijd op 4,5 keer de winstgevendheid van tactieken zonder AI. De les voor een Nederlands bedrijf is praktisch: kijk niet alleen naar het model, maar naar de sandbox, plugin, rechten, logs en stopprocedure.