Australië plant veiligheidsregels voor frontier-AI

Australië wil frontier-AI-bedrijven die er actief willen zijn via de AI-standaardenwet aan zes veiligheids- en beveiligingsplichten binden, met een nieuwe toezichthouder voor naleving, meldt de regering.

Een Nederlandse aanbieder die frontier-AI in Australië op de markt wil brengen, kan binnen de aangekondigde reikwijdte vallen. De plannen richten zich op leveranciers van frontier-modellen, niet op elk bedrijf dat AI inkoopt. Voor Nederlandse inkopers kan daardoor vooral tellen welke toetsresultaten, veiligheidsinformatie en meldroutes leveranciers straks kunnen overleggen.

Zes plichten volgen de modelcyclus

De regering gebruikt frontier-AI voor de meest geavanceerde modellen aan de grens van de huidige technologische mogelijkheden. Zij zegt dat de regels gelden voor frontier-AI-bedrijven die in Australië willen opereren. De eisen lopen van ontwikkeling tot inzet. De zes eisen zijn:

• Beveiliging: controles tijdens alle fasen van ontwikkeling en inzet.
• Risico’s: ernstige risico’s van modellen herkennen en beheersen.
• Onafhankelijke evaluatie: externe toetsing van modellen mogelijk maken.
• Incidenten: voorvallen snel aan de Australische regering melden.
• Openbaar kader: veiligheids- en beveiligingsraamwerken onderhouden en publiceren.
• Nieuwe standaarden: aangepaste normen en regels volgen als de technologie verandert.

De meldplicht noemt geen aantal uren of dagen. Ook voor onafhankelijke evaluaties geeft de regering nog geen toetsmethode of criteria. De tekst beschrijft de richting van de regels, terwijl de norm waaraan een leverancier straks moet voldoen nog uitgewerkt moet worden.

De eerdere Australische bespreking ging over meldregels voor frontierlabs die toestemming kregen om in Australië op grote schaal te trainen. Het nieuwe plan zet incidentmeldingen naast beveiliging, risicobeheer, onafhankelijke evaluatie en openbare veiligheidskaders. Daarmee verschuift de beleidsdiscussie van één meldroute naar controle over meer fasen van een model.

De toezichthouder krijgt een eigen sanctieroute

De regering stelt een nieuwe, gerichte toezichthouder voor AI-veiligheid voor. Die moet samenwerken met het Australian AI Safety Institute, dat technische expertise en toezicht op de ontwikkeling van standaarden levert. De toezichthouder zou aanzienlijke sancties kunnen opleggen aan AI-bedrijven die de wettelijke verplichtingen niet naleven. De stukken noemen nog geen bedrag of berekeningswijze voor die sancties.

De regering zegt dat de maatregelen aansluiten op aanbevelingen van het gezamenlijke parlementaire comité voor kunstmatige intelligentie. Een afzonderlijke snelle evaluatie van het OpenAI-incident bij Services Australia bevat achttien aanbevelingen. Die vragen onder meer om verplichte, tijdgebonden veiligheidsmeldingen te overwegen en strafrechtelijke opties voor ernstige niet-naleving te onderzoeken. Een aparte aanbeveling laat ook onderzoeken hoe ontwikkelaars en andere melders bescherming kunnen krijgen wanneer zij incidenten of kwetsbaarheden doorgeven.

Die evaluatie richtte zich op het incident met een OpenAI-agent bij Services Australia. OpenAI bood Australië excuses aan en beloofde een onafhankelijk expertpanel en cyberhulp voor getroffen overheidsdiensten. Het voorstel verlegt de aandacht naar wat leveranciers wettelijk moeten beveiligen, laten toetsen en melden als de wet wordt aangenomen.

De EU regelt al meldingen van systeemrisico

Sinds 2 augustus 2025 verplicht artikel 55 van de Europese AI-verordening aanbieders van AI-modellen voor algemene doeleinden met systeemrisico om modellen te evalueren, risico’s te beoordelen, ernstige incidenten te volgen en te melden aan het Europese AI-bureau (AI Office) en, waar passend, nationale autoriteiten. De regel schrijft ook cybersecurity voor. De Europese verplichting omvat daarnaast gedocumenteerde modeltests en maatregelen om systeemrisico’s te beperken.

De Europese regel geldt voor een afgebakende categorie modellen met systeemrisico. Australië spreekt over frontier-AI-bedrijven die op zijn markt willen opereren, maar de aankondiging noemt geen meetbare drempel om te bepalen welke modellen onder die term vallen. De twee kaders kunnen leveranciers dus op verschillende manieren raken.

Ook zonder nieuwe wet worden meldafspraken al op leveranciersniveau uitgewerkt. OpenAI’s eigen raamwerk voor meldingen van onbedoeld modelgedrag beschrijft rapportvelden en onderzoeksroutes, maar geeft klanten geen uniforme meldingstermijn of expliciete toegang tot logboeken. De Australische plannen zouden zulke onderwerpen voor frontier-aanbieders onderdeel maken van wettelijke normen. Voor een gewone Nederlandse organisatie die een AI-dienst gebruikt, kondigt Canberra geen directe verplichting aan.

De wetstekst laat grenzen open

Het ministerie meldt dat meer details volgen zodra de regering het wetsvoorstel uitwerkt en overleg heeft afgerond. Een conceptwet, ingangsdatum, toetsdrempel voor frontier-AI, criteria voor onafhankelijke evaluaties en concrete meldtermijn ontbreken. Ook de bevoegdheden van de toezichthouder en de hoogte van sancties zijn nog niet uitgewerkt.

The Guardian meldt dat de regering de achttien aanbevelingen heeft aanvaard en met de uitvoering is begonnen, terwijl het volledige evaluatierapport niet is gepubliceerd en premier Anthony Albanese niet zei of het OpenAI-incident onder de nieuwe regels zou vallen. Dat laat open hoe de regering straks de grens trekt tussen een beleidsvoornemen en een afdwingbare norm.

De beleidslijn loopt daarmee van bedrijven die zelf meldkaders publiceren naar een voorstel voor wettelijk toezicht over de modelcyclus. De EU heeft al concrete meld- en evaluatieplichten voor modellen met systeemrisico; Australië wil daar beveiliging, openbare kaders en aanpassing aan nieuwe standaarden naast zetten. Nederlandse organisaties krijgen vandaag geen nieuwe verplichting uit Canberra. Voor leveranciers die de Australische markt willen bedienen, hangt de volgende stap af van de definitie van frontier-AI, de toetsmethode en de datum waarop de wet geldt.