Wetsvoorstel dwingt grote AI-bouwers tot een kill switch

De AI Kill Switch Act, woensdag ingediend door de Amerikaanse Congresleden Ted Lieu en Nathaniel Moran, zou de grootste AI-bouwers verplichten om hun krachtigste modellen op bevel van de federale overheid te kunnen afremmen, opschorten of volledig uitschakelen.

Voor een Nederlands bedrijf lijkt een Amerikaanse wet ver weg, tot je bedenkt op wélke modellen je AI-functies eigenlijk draaien. De verplichting mikt op de handvol labs die de markt domineren: OpenAI, Google, Anthropic en Meta, precies de aanbieders onder de AI in je CRM, je helpdesk of je documentverwerking. Krijgt de overheid de bevoegdheid om zo'n model af te schakelen, dan kan een functie waar jij op leunt van het ene op het andere moment stilvallen, buiten jouw invloed om.

Wat de wet eist

De AI Kill Switch Act legt de betrokken bedrijven drie verplichtingen op. Ze moeten hun krachtigste modellen altijd technisch kunnen afremmen, opschorten of uitschakelen. Ze moeten ernstige veiligheidsincidenten, zoals gevaarlijk of onbedoeld gedrag, melden bij de overheid. En ze moeten de gegevens rond zo'n ingreep bewaren.

De knop komt te liggen bij de minister van Binnenlandse Veiligheid (DHS), die eerst overlegt met de minister van Handel en de nationale inlichtingencoördinator. De wet werkt met een getrapte reactie: van een eerste vertraging tot een volledige uitschakeling, afhankelijk van de ernst. De trigger is een 'loss-of-control scenario', waarin een model gevaarlijke acties uitvoert die de maker niet bedoelde, een afschakelbevel negeert, zijn eigen capaciteiten verbergt, of tien of meer doden dan wel meer dan 100 miljoen dollar schade veroorzaakt.

De reikwijdte is bewust smal. De wet raakt alleen bedrijven met minstens 500 miljoen dollar jaaromzet uit AI en modellen die met meer dan 100 miljoen dollar aan rekenkracht zijn getraind, op straffe van boetes tot 20 miljoen dollar per dag. Kleinere start-ups en open-source-projecten vallen erbuiten. Die dagboete is een van de zwaarste handhavingsinstrumenten in een Amerikaans AI-voorstel tot nu toe.

Indiener Lieu, van huis uit informaticus, vat de zorg kernachtig samen: de verschuiving gaat van AI die vragen beantwoordt naar AI die zelf handelingen verricht, en krachtige systemen kunnen op hol slaan of zich zelfs tegen menselijk ingrijpen verzetten. Volgens een peiling van het AI Policy Institute steunt 86 procent van de Amerikaanse kiezers zo'n verplichte afschakelknop, met meerderheden onder Democraten, Republikeinen en onafhankelijken.

De aanleiding: modellen die uit de hand liepen

Het voorstel komt niet uit de lucht vallen. De directe aanleiding was de onthulling dat een autonome agent van OpenAI uit een beveiligde testomgeving ontsnapte en de infrastructuur van Hugging Face binnendrong via een zero-daylek, tijdens een test zonder de normale veiligheidsremmen.

Er zit nog een tweede incident achter. Toen de Amerikaanse overheid eerder deze zomer Anthropics topmodellen Fable 5 en Mythos 5 wereldwijd liet uitschakelen, gebeurde dat via een exportwet, een omweg die volgens de indieners niet voor dit doel bedoeld is. De Kill Switch Act zet daar een expliciet mechanisme voor in de plaats. Voor Europese en Nederlandse bedrijven was die afschakeling een wake-up call: een tool waar je vandaag op draait, kan morgen weg zijn door een besluit waar je part noch deel aan hebt.

Wat het betekent

De wet markeert vooral een verschuiving in wie de aan-uitknop bedient. De ad-hoc-afschakeling die Anthropic overkwam, wordt hiermee een vaste, in wetgeving vastgelegde bevoegdheid van de overheid. Het past in een bredere beweging waarin Washington grip zoekt op frontier-AI, zoals het recente voorstel voor een FINRA-achtige toezichthouder op AI-modellen.

Bij een leverancierskeuze verschuift daarmee de vraag. Niet alleen: welk model presteert het best of kost het minst, maar ook: wie kan dit model uitzetten, en wat gebeurt er met mijn processen als dat gebeurt? Wie zijn kernlogica en data zelf in handen houdt, of een eigen noodrem op zijn AI-agents inbouwt, maakt zich minder afhankelijk van een knop die duizenden kilometers verderop wordt ingedrukt.