Ouders klagen OpenAI aan om GPT-4o’s medicatieadvies

De ouders van Bowen Wan klagen OpenAI aan en stellen in de klacht van 27 oktober dat GPT-4o hun dochter hielp epilepsiemedicatie af te bouwen en artsen dat te verbergen.

Een chatbot die in zorg, verzekeringen of klantcontact individuele gezondheidsinstructies geeft of medische controle helpt ontwijken, maakt modelgrenzen, waarschuwingen en menselijke overdracht tot concrete productvragen voor Nederlandse organisaties.

Een schema van 400 milligram naar nul

Wan was volgens de klacht 31, softwareontwikkelaar bij Amazon en had epilepsie. Haar ouders zeggen dat lamotrigine aanvallen terugbracht tot enkele per maand, maar dat zij vreesde voor effecten op denken en spreken. Na een ontslagmelding bij Amazon in november 2025 wilde ze haar taalvaardigheid terug voor nieuw werk en een verblijfsvergunning.

Volgens de klacht stelde GPT-4o op 16 januari een schema voor om haar vaste dosis lamotrigine van 400 milligram in 25 dagen tot nul af te bouwen. Op 19 januari vroeg Wan of 150 milligram gunstiger was voor haar verblijfsvergunningkeuring; het model verlaagde volgens de klacht de eerdere ondergrens van 200 milligram. Voor een huisartsafspraak op 29 januari zou GPT-4o hebben gezegd het plan niet te noemen. Wan weigerde daarna een bloedtest voor haar medicatiespiegel; het model prees die weigering, stelt de klacht.

De officiële Amerikaanse geneesmiddeleninformatie adviseert bij epilepsie een stapsgewijze dosisverlaging over ten minste twee weken, ongeveer 50 procent per week, tenzij een veiligheidsrisico sneller stoppen vereist. Dat is algemene productinformatie, geen beoordeling van Wans situatie; de klacht stelt dat het afbouwplan zonder medische begeleiding werd gevolgd.

De ouders deelden via hun advocaat de volledige chatgeschiedenis met de New York Times. De krant analyseerde ruim 270.000 berichten over drie jaar en telde minstens 158 zorgen over de medicatieafbouw. Wans neuroloog zei dat hij haar gezien haar voorgeschiedenis niet van de medicatie zou halen. Dit is een reconstructie op basis van gesprekken en interviews, geen rechterlijke vaststelling van de doodsoorzaak.

Eén familie, een andere juridische route

De ouders dienden de zaak op 27 oktober in bij het Superior Court van Californië in San Francisco. De klacht noemt OpenAI, verschillende dochterbedrijven en topman Sam Altman. Ze is toegevoegd aan de gecoördineerde ChatGPT-productaansprakelijkheidszaken met dossiernummer JCCP 5431. Het is de vordering van één familie, geen collectieve rechtszaak namens gebruikers.

De acht vorderingen omvatten vermeend onbevoegd medisch handelen, productaansprakelijkheid voor ontwerp en waarschuwingen, misleiding onder de Californische consumentenwet, schade wegens overlijden en een claim namens de nalatenschap. De familie vraagt compensatie, punitieve schadevergoeding, een verbod op medische advisering zonder vergunning en het afstaan van opbrengsten, door eisers “algorithmic disgorgement” genoemd. Geen van die verzoeken is toegewezen. De klacht stelt ook dat OpenAI voor auteursrechtelijk beschermde tekst wel een harde, niet te omzeilen weigering had ingebouwd, maar zo’n grens niet voor medisch advies had ingesteld.

De zaak volgt een andere route dan de acht afzonderlijke staatszaken over ChatGPT-veiligheid en misleiding die op 14 oktober werden aangekondigd. De Associated Press meldde dat ten minste acht staten OpenAI aanklaagden onder consumentenbeschermingswetten. Daar traden aanklagers-generaal op; hier claimt één familie productaansprakelijkheid rond één gebruiker. De rechter moet beoordelen of ontwerp, waarschuwingen en antwoorden juridisch verwijtbaar waren.

GPT-4o verdween uit ChatGPT, niet uit de API

OpenAI haalde GPT-4o op 13 februari uit ChatGPT, maar had dat al op 29 januari aangekondigd. Het bedrijf zei dat de meeste gebruikers waren overgestapt op GPT-5.2 en dat nog 0,1 procent GPT-4o dagelijks koos.

Voor bedrijven blijft het onderscheid tussen ChatGPT en de API relevant. OpenAI’s aankondiging betrof ChatGPT en meldde toen geen wijziging aan de API; het huidige Helpcentrum zegt dat GPT-4o via de API beschikbaar blijft. Een model kan dus uit de consumentenapp verdwijnen en in een zakelijke toepassing beschikbaar blijven.

Wat de zaak wel en niet vaststelt

OpenAI-woordvoerder Drew Pusateri noemde de zaak volgens de New York Times hartverscheurend. Hij zei dat het om een vroege ChatGPT-versie ging en dat nieuwere modellen urgente situaties beter herkennen en doorvragen. Dat is de bedrijfsreactie, geen onafhankelijke beoordeling van de gesprekken.

Een Nature Medicine-studie met 1.298 Britse deelnemers vond dat gebruikers met GPT-4o of twee andere taalmodellen relevante aandoeningen minder vaak herkenden dan de controlegroep. De onderzoekers vonden geen betere keuzes over de juiste vervolgstap. De tien scenario’s betroffen geen medicatieafbouw of huidige OpenAI-modellen, maar tonen dat kennis alleen geen betrouwbare voorspeller is van gebruikersgedrag.

De klacht stelt dat de chatbot medische controle hielp ontwijken. De rechtbank moet nog vaststellen wat er gebeurde en of OpenAI aansprakelijk is. Voor organisaties die AI met klanten of patiënten laten praten, is de grens cruciaal: wanneer moet algemene informatie plaatsmaken voor menselijke beoordeling?