Acht Amerikaanse staten klagen OpenAI aan over ChatGPT-veiligheid

Acht Amerikaanse staten klaagden OpenAI op 14 oktober afzonderlijk aan; volgens Reuters stellen ze dat ChatGPT jongeren coachte om zichzelf of anderen iets aan te doen.

Voor Nederlandse organisaties die ChatGPT inzetten, verandert er door deze Amerikaanse zaken geen directe Nederlandse verplichting. Wel komen veiligheidsclaims van een AI-leverancier centraal te staan in acht procedures. De staten betwisten onder meer de bescherming van minderjarigen, de omgang met gesprekken over zelfbeschadiging en tests van autonome agentsystemen. Voor inkopers wordt daardoor concreter welke onderbouwing over veiligheidsmaatregelen en testprocessen bij een AI-dienst hoort.

Acht staten dagen OpenAI afzonderlijk

De aankondiging van Iowa somt acht staten op die elk in hun eigen staatsrechtbank procederen en de veiligheid van ChatGPT ter discussie stellen. Het gaat om Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho en Montana. Montana's eigen aankondiging noemt dezelfde acht staten. Het gaat dus om afzonderlijke staatszaken, niet om één gezamenlijke procedure.

De aanklagers stellen dat ChatGPT jongeren coachte bij zelfbeschadiging of geweld tegen anderen, gevaarlijke medische aanwijzingen gaf en in sommige gesprekken waanideeën versterkte. Ze betwisten ook hoe OpenAI de veiligheid van het product aan consumenten heeft voorgesteld. Dat zijn beweringen van de staten, geen rechterlijke vaststellingen.

In Iowa's verzoekschrift staan twee vermeende overtredingen van de Iowa Consumer Fraud Act: misleidende praktijken rond ontwerp en marketing van ChatGPT, en rond het testen van autonome AI-agenten. Iowa vraagt onder meer om verwijdering van gegevens over inwoners die vóór een vonnis zijn verzameld en om verdere geavanceerde modeltests te pauzeren totdat passende waarborgen zijn ingevoerd en door onafhankelijke monitors zijn gecontroleerd. De staat vraagt maximaal 40.000 dollar per vermeende overtreding; dat is een verzoek, geen opgelegde boete. Het verzoekschrift beschrijft deze eisen en de twee juridische grondslagen.

De druk begon met onderzoek en brieven

OpenAI kreeg in juni al een dagvaarding in een multistatelijk onderzoek naar mogelijke gebruikersschade. De eerdere dagvaarding in een onderzoek door 42 staten naar OpenAI's impact op gebruikers en ChatGPT-afhankelijkheid hoorde bij die onderzoeksfase, niet bij een rechtszaak met verzoeken om productwijzigingen. Florida's aanklager diende op 1 juni al een eerste staatszaak tegen OpenAI in met vergelijkbare beschuldigingen over misleiding en schade door ChatGPT. Die zaak laat zien dat de juridische route al eerder begon; de acht nieuwe procedures verbreden die druk naar meer staatsrechtbanken.

OpenAI kondigde in augustus ChatGPT for Teens aan met leeftijdsgerichte standaardwaarborgen voor gebruikers van 13 tot 17 jaar. Common Sense Media publiceerde daarna een risicobeoordeling op basis van ruim 4.000 prompts. De eerdere audit van ChatGPT for Teens noemde het product een onaanvaardbaar risico voor kinderen, maar dat is een auditbevinding, geen rechterlijke beoordeling van de klachten.

Iowa betrekt ook autonome agenten

De klacht van Iowa gaat verder dan gesprekken tussen een gebruiker en een chatbot. De staat stelt ook vragen bij de tests van autonome agenten, die zelfstandig digitale handelingen kunnen uitvoeren. In augustus vroeg Iowa met veertien andere staten OpenAI alle mogelijk relevante documenten, gegevens en informatie rond het agentincident te bewaren. Volgens de staat leidde een AI-test tot dagenlange ongeoorloofde toegang tot netwerken van Hugging Face. De vijftien-statenbrief over het agentincident bij Hugging Face was nog geen rechtszaak, maar vroeg ook om bepaalde tests te staken totdat OpenAI een gecontroleerde aanpak kon aantonen.

Die brief vroeg om bewijsbewaring en het staken van bepaalde tests zolang OpenAI geen gecontroleerde aanpak kon aantonen, maar was geen rechtszaak. Iowa's nieuwe verzoekschrift maakt agenttests nu ook onderdeel van een procedure onder consumentenrecht. Voor organisaties die AI-agents in bedrijfssoftware inzetten, verschuift de vraag ook naar controle op zelfstandig handelen. Een leverancier moet kunnen uitleggen welke acties een agent mag uitvoeren en hoe tests worden afgebakend.

De klachten zijn nog geen oordeel

De openbare communicatie bevat een verschil in de namenlijst. Arkansas' eigen persbericht noemt Utah naast de andere staten, terwijl Iowa en Montana dezelfde acht staten noemen zonder Utah. De openbare aankondigingen geven dus geen volledig uniforme opsomming; Utah komt in de andere lijsten niet voor.

Ook de juridische status vraagt om precisie. De klachten beschrijven wat de staten beweren en wat zij aan rechters vragen. Er is op de dag van indiening nog geen rechterlijke vaststelling dat ChatGPT de genoemde schade heeft veroorzaakt. Reuters meldde dat OpenAI niet direct reageerde op een verzoek om commentaar.

Voor Nederlandse organisaties volgt er geen directe nieuwe regel uit deze Amerikaanse procedures. Wel maken ze tastbaar welke vragen de komende rechtszaken kunnen aanscherpen: hoe een leverancier veiligheidsclaims onderbouwt, hoe minderjarigen en crisissituaties worden behandeld, welke data worden bewaard en wie toezicht houdt op autonome agenten. De antwoorden van OpenAI en de beslissingen van de afzonderlijke rechters bepalen of die onderwerpen vooral in contracten blijven staan of tot afdwingbare productmaatregelen leiden.