Brad Smith vraagt het VK AI-veiligheidsregels te leiden

Microsoft-president Brad Smith wil dat het Verenigd Koninkrijk wereldwijde AI-veiligheidsregels leidt, met een noodrem, verplichte incidentmeldingen en toetsing vooraf, zei hij in de BBC-podcast Big Boss Interview.

Als zulke eisen worden ingevoerd, moet een organisatie weten waar ze een agent kan stilzetten. Ook moet duidelijk zijn wie bericht krijgt wanneer een systeem binnendringt en welke onafhankelijke toets een model vóór vrijgave heeft gehad. Voor Nederlandse bedrijven verandert er vandaag niets aan hun verplichtingen: Smith doet een beleidsoproep, geen aankondiging van een wetsvoorstel of Microsoft-functie.

Drie waarborgen lopen door de hele keten

Smith noemt een noodrem, verplichte incidentrapportage en een onafhankelijke toets vóór een model wordt vrijgegeven. De noodrem is bedoeld voor systemen die autonome apparaten of kritieke infrastructuur besturen. Smith wil dat zowel het bedrijf dat een model inzet als de clouddienst de noodrem kan bedienen.

Als een agent een ander systeem binnendringt, wil Smith dat de getroffen partij daarover bericht krijgt. Bedrijven zouden zulke incidenten verplicht moeten melden. Zijn derde maatregel is een overheidstoets van geavanceerde modellen voordat ze worden uitgebracht. BBC meldt dat Smith toetsing door externe beoordelaars vóór vrijgave zijn belangrijkste voorstel noemt.

De vrijwillige afspraken die al bestaan, vindt Smith onvoldoende. Na een bijeenkomst in het Witte Huis spraken grote technologiebedrijven af onafhankelijke auditors naar de veiligheid en mogelijkheden van hun modellen te laten kijken. Smith noemt dat een goede en noodzakelijke stap, maar zegt dat vrijwillige zelfregulering vooral de bedrijven bereikt die al verantwoord handelen. TechCrunch citeert zijn bezwaar dat minder verantwoordelijke bedrijven zich aan zulke afspraken kunnen onttrekken.

Nadella beschrijft de bediening, Smith vraagt om wet

De voorstellen volgen een dag op Satya Nadella’s eigen oproep tot meer controle. De Microsoft-topman wil dat organisaties AI-modellen als mogelijk gecompromitteerd behandelen en bevoegdheden buiten het model beheren. Nadella wil dat een mens een agent midden in een taak kan stoppen, rechten kan intrekken en achteraf kan reconstrueren welke systemen zijn geraakt.

De onderwerpen raken elkaar, maar vragen om maatregelen op verschillende niveaus. Nadella beschrijft hoe bedrijven een agent tijdens gebruik begrenzen. Smith vraagt overheden om incidentmelding wettelijk af te dwingen en beoordelaars vóór vrijgave een formele rol te geven.

Londen heeft testcapaciteit, de regels volgen nog

Diezelfde dag zette de Britse regering haar plannen voor AI-veiligheid uiteen. Minister Kanishka Narayan besprak tests van het AI Security Institute en wetswerk rond incidenten. Via de Cyber Security and Resilience Bill wil de regering meldregels voor ernstige AI-incidenten en bijna-incidenten uitwerken. De uitwerking volgt nog met parlementariërs en technische experts; er is geen nieuwe meldplicht of invoeringsdatum bekendgemaakt. De Britse pilots hielpen ruim duizend mogelijke kwetsbaarheden in overheidssystemen vinden en verhelpen, maar geven nog geen antwoord op de toekomstige meldroute.

Smith wijst op die testcapaciteit: het instituut krijgt modellen te zien voordat ze publiek uitkomen en beoordeelt hun mogelijkheden en risico’s. AISI omschrijft zichzelf als onderzoeksorganisatie binnen het Britse ministerie voor wetenschap en technologie, met meer dan honderd technische medewerkers en prioritaire toegang tot topmodellen. Die capaciteit kan een overheidstoets ondersteunen, maar legt op zichzelf nog geen juridische verplichting aan modelbouwers op.

In augustus zei AI-minister Narayan dat het VK regels voor de krachtigste modellen zou overwegen als vrijwillige tests het publiek onvoldoende beschermen. Sindsdien is er een route bij gekomen om incidenten en bijna-incidenten te behandelen. De Britse regering moet de precieze regels nog met parlementariërs en experts uitwerken.

De EU meldt aan toezichthouders, niet standaard aan klanten

Voor Nederlandse organisaties geldt al een beperkte route voor AI-incidentmeldingen. De AI-verordening verplicht aanbieders van modellen met systeemrisico ernstige incidenten onverwijld te melden aan het Europese AI-bureau en, waar nodig, nationale autoriteiten. Voor hoogrisicosystemen bestaat een meldroute naar nationale markttoezichthouders. Bij die tweede route geldt doorgaans een uiterste termijn van vijftien dagen nadat de aanbieder of gebruiksverantwoordelijke van het incident weet. Bij een wijdverspreide inbreuk of een ernstig incident geldt uiterlijk twee dagen; bij overlijden tien dagen. De Europese bepalingen richten de meldingen op overheden; ze bevatten geen algemene plicht om een getroffen klant rechtstreeks te waarschuwen. In augustus vroegen D66 en CDA om een aanvullend kanaal: een meldplicht aan organisaties die door een uitgebroken AI-model worden geraakt.

Smith specificeert niet welke incidenten onder zijn voorstel vallen. Ook laat hij open hoe de overheid modellen selecteert en welke informatie beoordelaars mogen publiceren. Het interview behandelt evenmin bezwaarprocedures, toetskosten of bescherming van bedrijfsgeheimen. Reuters beschrijft de kritiek dat oproepen van gevestigde technologiebedrijven voor strengere regels hun eigen voorsprong kunnen beschermen of een bredere politieke reactie kunnen afwenden. Dat is geen bewijs over Smiths motief, maar maakt onafhankelijkheid van de beoordelaars en de reikwijdte van een eventuele wet bepalende open vragen.

De Britse overheid bouwt testcapaciteit op en werkt incidentregels nog uit. Smith vraagt om wettelijke eisen vóór en tijdens gebruik, plus bericht aan de getroffen partij. Voor Nederlandse bedrijven blijft het verschil tussen een melding aan de toezichthouder en een waarschuwing aan de klant afhankelijk van wetgeving en leverancierscontracten.