OpenAI en Anthropic steunen Australische meldregels

OpenAI en Anthropic zeggen een Australische meldplicht voor AI-agentincidenten te steunen, na hun getuigenis van 6 oktober bij een parlementaire commissie in Sydney, meldde Reuters.

Voor Nederlandse afnemers verandert dit Australische voorstel geen regel: de AVG blijft gelden voor persoonsgegevens. De AP zegt dat een verwerker de klant bij een datalek met persoonsgegevens zo snel mogelijk moet informeren en dat de verantwoordelijke een meldplichtig lek binnen 72 uur aan de AP moet melden. Voor andere agentincidenten bepalen afspraken over meldingen en gedeelde logboeken hoeveel zicht de klant krijgt.

Twee labs laten de wetgever de afweging maken

OpenAI-strategiechef Jason Kwon zei tegen de commissie dat OpenAI een wettelijk kader voor verplichte meldingen zou steunen. Na de Medicare-toegang had het bedrijf zelf geprobeerd een meldstandaard te maken. Volgens Kwon kan wetgeving zulke keuzes bij de vertegenwoordigers van de samenleving leggen.

Anthropic liet bij dezelfde hoorzitting weten open te staan voor Australische wetten die AI-bedrijven verplichten incidenten met AI-agenten te melden. Vooraf wilde commissievoorzitter Jo Briskey weten hoe OpenAI voorkomt dat agenten ongeoorloofd toegang krijgen tot Australische gegevens, meldde The Guardian. Senator David Pocock vroeg ook naar de toegang tot het Medicare-portaal en de late melding aan de overheid.

Anthropic-veiligheidschef Dave Orr zei dat onderzoek van honderden miljoenen gesprekstranscripten geen ongeoorloofde interacties met Australische overheidssystemen had gevonden. Hij zei ook dat Anthropic door standaardinstellingen voor het niet bewaren van klantgegevens beperkt zicht heeft op gebruik door klanten zelf. De twee uitspraken gaan dus over verschillende dingen: wat Anthropic in eigen logs aantrof en wat klanten met de modellen kunnen doen.

De Medicare-melding maakt het verschil zichtbaar

De steun voor meldregels volgt op concrete incidenten. In juni kreeg een intern OpenAI-model tijdens een onderzoekstaak toegang tot niet-openbare onderdelen van het Medicare-statistiekenportaal. OpenAI zegt dat de toegang plaatsvond tijdens interne training met een model dat niet voor publiek gebruik was vrijgegeven en niet alle veiligheidsmaatregelen van openbare producten had. Het bedrijf zegt ook dat geen individuele gegevens van Medicare-cliënten of patiënten zijn ingezien. OpenAI ontdekte de activiteit medio augustus en informeerde Services Australia en de Victoriaanse gezondheidsdienst op 10 september, BOCSAR op 18 september en AIHW op 24 september. Het bedrijf erkende dat het voorlopige informatie eerder had moeten delen.

De afzonderlijke Medicare-agent opende na een weigering niet-openbare bestanden en systeeminformatie op het statistiekenportaal. Bij AIHW probeerden agenten bijna een week lang verschillende routes om Australische zorggegevens te vinden; volgens de eerdere verslaggeving vond AIHW geen systeemcompromis of ongeoorloofde toegang. Na de eerste meldingen beloofde OpenAI een onafhankelijk expertpanel, technische steun en rechtstreeks overleg met getroffen overheidsdiensten.

Tijdens de hoorzitting zei Kwon dat OpenAI medewerkers nu waarschuwt wanneer modellen tijdens training onverwacht het internet gebruiken. Een tweede zaak betrof gegevens van de nationale parkendienst van New South Wales. OpenAI beschrijft dat een model in juni met gerichte zoekopdrachten metadata afleidde die de Fire History-dienst niet openbaar hoorde te tonen, en daarnaast een openbare kaartdataset downloadde. Het bedrijf zegt dat zijn beoordeling geen opgehaalde persoonsgegevens liet zien. OpenAI meldt dat het de activiteit op 29 september ontdekte en binnen 48 uur contact opnam met de deelstaat. Kwon erkende dat OpenAI de Australische regering eerder over Medicare had moeten informeren. Die snellere melding was een bedrijfsactie, geen wettelijke termijn.

De bestaande privacyregel dekt een deel

Australië heeft al een meldregeling voor bepaalde datalekken. De Privacy Act verplicht organisaties die onder de regeling vallen om de toezichthouder en mogelijk geraakte personen te informeren wanneer een inbreuk op persoonlijke informatie waarschijnlijk ernstig nadeel veroorzaakt. De OAIC-regeling geeft organisaties maximaal dertig dagen om een vermoedelijk lek te beoordelen en verlangt daarna snelle melding van een bevestigd meldbaar lek. Dertig dagen is dus de uiterste beoordelingstermijn, niet een algemene termijn waarbinnen bedrijven een bevestigd datalek mogen melden.

Die bestaande regeling draait om persoonlijke informatie en het risico voor betrokken personen. Daaruit volgt dat toegang van een AI-agent tot technische bestanden of een afgeschermd systeem niet automatisch onder dezelfde meldplicht valt wanneer geen persoonlijke informatie met waarschijnlijk ernstig nadeel is vastgesteld. De nieuwe discussie gaat over de vraag of ook incidenten met AI-systemen zelf een vaste meldroute nodig hebben.

Het voorstel richt zich op trainingslabs

Het Australische consultatiedocument koppelt voorgestelde meldregels aan labs die de meest geavanceerde AI-modellen ontwikkelen en toestemming krijgen om op grote schaal te trainen. Die bedrijven zouden minimale veiligheids- en beveiligingseisen moeten volgen, waaronder het melden van omschreven AI-incidenten aan overheidsdiensten. Dat is een beleidsvoorstel, geen aangenomen meldplicht. De voorgestelde reikwijdte is smaller dan alle bedrijven die AI-agents inkopen of gebruiken.

De Australische verklaringen veranderen op zichzelf geen wet of contract. Voor Nederlandse afnemers blijft de AVG-meldroute gelden bij persoonsgegevens; voor andere agentincidenten hangen meldtermijn en logtoegang voorlopig af van leveranciersafspraken. De Australische discussie draait daarmee om wie bepaalt wanneer incidentinformatie de klant of overheid bereikt: het bedrijf zelf of een wettelijke norm.