Vier non-profits vragen rechter om krachtiger AI bij vijf bedrijven te begrenzen

Vier Amerikaanse non-profits vragen een rechter in San Francisco om de ontwikkeling en inzet van krachtiger AI-systemen bij vijf bedrijven stil te leggen, blijkt uit een op 12 november ingediende klacht.

API-toegang, modelkeuze en contracten veranderen door de indiening niet. Pas als de rechtbank een bevel geeft, kan de zaak de releases van de vijf leveranciers en daarmee de modelkeuze bij Nederlandse organisaties raken.

De eis richt zich op systemen boven de huidige grens

De eisers zijn Irreplaceable Education Fund, Public Citizen, Heat Initiative en The Alliance for Secure AI. Zij noemen Anthropic, Google, Meta, OpenAI en SpaceX Super Intelligence als gedaagden. De klacht noemt zeven juridische entiteiten, waaronder afzonderlijke onderdelen van OpenAI en SpaceX.

De zaak beroept zich op de Californische Unfair Competition Law. De eisers vragen om een onmiddellijk verbod op het ontwikkelen of inzetten van AI-systemen die krachtiger zijn dan de meest capabele systemen van de bedrijven op de datum van indiening. Ook vragen zij dat de bedrijven AI-systemen niet zelfstandig onderzoek en ontwikkeling naar krachtiger systemen laten uitvoeren. Daarnaast vragen ze een verbod op praktijken die volgens hen onrechtmatig of oneerlijk zijn en een publieke overlast vormen.

De eerste twee verboden zijn niet gericht op het uitzetten van alle bestaande AI-diensten. De grens ligt bij systemen die krachtiger zijn dan die op de dag van indiening en bij AI die zelfstandig aan krachtiger systemen werkt. De eisers stellen dat de bedrijven gevaren als cyberaanvallen en biologische dreigingen zelf zouden erkennen. Public Citizen koppelt de zaak aan risico’s van AI-gestuurde cyberaanvallen en verspreiding van biologische wapens, de veiligheidsreden van een van de eisers.

De nieuwe zaak keert de juridische vraag om

Dezelfde vier labs kwamen in september in een andere procedure voor: een federale antitrustklacht beschuldigt Anthropic, OpenAI, SpaceXAI en Google van een gezamenlijke afspraak om het ontwikkeltempo te verlagen. Die aanklacht kwam van vier betalende gebruikers van ChatGPT, Claude, Grok en Gemini. Zij stelden dat afstemming tussen de aanbieders de waarde van hun abonnementen kon verminderen. AP meldde dat zij ook schadevergoeding en een rechterlijk verbod op de vermeende afspraak vroegen.

De nieuwe zaak heeft andere eisers, noemt Meta erbij en draait om een andere rechtsgrond. De antitrustzaak stelt dat leveranciers niet gezamenlijk de ontwikkeling mogen afremmen. De non-profits vragen nu juist om een rechterlijke rem op de ontwikkeling en inzet van systemen die krachtiger zijn dan wat de bedrijven al hebben. De ene procedure gaat over concurrentie tussen leveranciers, de andere over de risico's die de eisers aan verdere ontwikkeling toeschrijven. Geen van beide beschuldigingen is daarmee al door een rechter vastgesteld.

Veiligheid komt ook via beleid en onderzoek op tafel

De rechtszaak staat naast eerdere oproepen van mensen uit de sector om het tempo te begrenzen. Op 6 september schreef OpenAI-hoofdwetenschapper Jakub Pachocki dat geen enkel AI-lab volgens hem alignment en monitoring voldoende had opgelost om lang op maximale snelheid door te gaan. Onderzoekers van OpenAI en Anthropic vroegen publiek om frontier-AI af te remmen, maar die oproep was geen formeel verbod of vaste releasedatum.

Ook de wetgevende route is eerder ingezet. OpenAI vroeg Californië in augustus om veiligheidswet SB 53 aan te scherpen, met onder meer strengere eisen voor afnemers en beoordeling van containmentplannen. Het voorstel koppelde AI-veiligheid aan aanvullende verplichtingen voor leveranciers en klanten. De nieuwe klacht probeert een rechter via bestaande Californische wetgeving tot een directe beperking te bewegen, zonder eerst op nieuwe wetgeving te wachten.

De klacht is nog geen wijziging voor afnemers

De processtukken zijn het standpunt van de eisers. Hun voorbeelden van ongewenst agentgedrag en hun verwijzingen naar uitspraken van bedrijfsleiders zijn onderbouwing voor het verzoek, geen rechterlijke bevinding dat de vijf bedrijven de wet hebben overtreden. De formulering over systemen die krachtiger zijn dan de huidige modellen noemt in het gevraagde bevel geen benchmark waarmee die grens technisch wordt vastgesteld. Dat maakt de precieze reikwijdte van een eventueel bevel nog een open vraag.

De Associated Press meldde op de dag van de indiening dat de bedrijven niet meteen op verzoeken om commentaar reageerden. Er is op die dag geen rechterlijk bevel gemeld dat ontwikkeling of inzet stillegt. Voor Nederlandse organisaties verandert de klacht dus geen toegang tot API's, bestaande modellen of contracten en ontstaat er geen nieuwe Nederlandse verplichting. Als de rechter later wel ingrijpt, moet nog blijken welke systemen onder de grens vallen en hoe een Californisch bevel doorwerkt in diensten buiten de Verenigde Staten.

De reeks loopt van waarschuwingen binnen AI-labs via voorstellen voor veiligheidsregels naar een poging om de grens door een rechter te laten trekken. Deze zaak maakt die juridische route concreet, maar zet nog geen model uit. De eerstvolgende materiële verandering hangt af van een rechterlijke beslissing die op de publicatiedag nog niet was genomen.