Ziekenhuizen bouwen eigen toetsing voor AI die meeluistert in de spreekkamer

Een groep Nederlandse ziekenhuizen bouwt een eigen veiligheidstoetsing voor AI die meeluistert in de spreekkamer, meldt BNR, nadat de Britse zorgwaakhond Healthwatch England fouten in medicijnnamen en diagnoses in AI-verslagen documenteerde.

Dat probleem stopt niet bij de zorg. Elke organisatie die een AI-notulist op een gesprek zet, doet dat zonder verplichte toets die zegt of de output goed genoeg is. Het hele vangnet rust op de aanname dat de professional de tekst naleest voordat die wordt vastgelegd. Bij één vermoeide medewerker levert dat een incidentele fout op. Bij een model dat overal tegelijk draait, gaat het om dezelfde fout in duizenden dossiers.

Wat er in Engeland misging

Healthwatch England, de wettelijke patiëntenvertegenwoordiger binnen de NHS, verzamelde meerdere gevallen waarin niet de arts maar de patiënt de fout ontdekte. Bij één vrouw zette de AI-samenvatting demyelinisatie in het dossier terwijl haar MRI-uitslag "null demyelination" was, precies het omgekeerde. Pas nadat zij er zelf naar vroeg, corrigeerde het ziekenhuis het. In een ander geval haalde de scribe het voorgeschreven medicijn door de war met een middel dat er qua naam op lijkt. In een derde ontbrak in de samenvattende brief de instructie om bij de huisarts een herhaalrecept voor migrainemedicatie op te halen.

Huisartsen en ziekenhuisartsen in Engeland gebruiken inmiddels 27 verschillende AI-scribes. Landelijk toezicht daarop is er niet, want de Britse toezichthouder MHRA besloot deze tools niet als medisch hulpmiddel te classificeren. In de richtlijn van augustus blijft passieve transcriptie buiten de regels, terwijl software die diagnostische suggesties doet er wel onder kan vallen.

Nederland zit in dezelfde situatie

De adoptie ging hier razendsnel. Uit de Huisartsenpraktijkenenquête van het Nivel, gepubliceerd op 7 augustus 2026, blijkt dat bijna de helft van de huisartsenpraktijken minstens één AI-toepassing gebruikt, tegen ongeveer een op de vijf een jaar eerder. Spraakgestuurde rapportage is met 36 procent de meest gebruikte toepassing.

De winst is ook echt meetbaar: in een Drents onderzoek daalde de administratietijd per consult van 3 minuten 33 naar 1 minuut 55. Alleen ontbreekt aan de andere kant van die rekensom elke verplichte controle. Een AI die alleen een gesprek samenvat, geldt als administratieve ondersteuning en valt daarmee buiten de strenge Europese eisen voor medische hulpmiddelen, zegt internist-intensivist Jessica Workum van het Elisabeth-TweeSteden Ziekenhuis.

Zij noemt het vangnet van de nalezende zorgverlener "niet helemaal foolproof" en illustreert dat met haar eigen intensive care: een ontslagbrief nakijken na een nachtdienst gaat anders dan op een woensdagmiddag, en dan glippen er volgens haar zeker foutjes doorheen. Wat er nu ontbreekt is de meting zelf, want de zorg weet op dit moment niet hoeveel fouten er in die verslagen staan, zegt Workum in de podcast BNR Beter.

Wat het RIGH:T-consortium bouwt

Workum leidt het RIGH:T-consortium, waarin onder meer het Elisabeth-TweeSteden Ziekenhuis, het LUMC, het UMCG, het Erasmus MC, het UMC Utrecht, het Maasstad Ziekenhuis, Frisius Medisch Centrum en GGZ Noord-Holland-Noord samenwerken, met subsidie van ZonMw en met de Patiëntenfederatie, het NHG, Actiz, TNO en het Nivel als betrokken partijen. Het raamwerk meet foutpercentages, fouttypen en klinische relevantie per verwerkingsstap, van de transcriptie tot de gegenereerde samenvatting. Het begint in de medisch-specialistische zorg en wordt daarna uitgebreid naar de eerste lijn, verpleeghuizen, thuiszorg en de GGZ.

"Het wordt geen stoplicht", zegt Workum erover. Het raamwerk brengt risico's in kaart en moet meegroeien met de techniek. De eerlijke kanttekening staat er meteen bij: de eerste versie is gepland voor komend jaar, terwijl de tools nu al in duizenden spreekkamers draaien. De toetsing loopt dus achter op het gebruik, en dat is precies waarom de partijen die de tools inzetten hem zelf schrijven.

Het tweede gat zit bij toestemming

Het Britse onderzoek laat zien hoe onzichtbaar de techniek is voor de mensen over wie het gaat. YouGov ondervroeg tussen 16 en 27 april 2026 voor Healthwatch England 4.039 volwassenen. Van de 2.795 die het afgelopen jaar een afspraak hadden, wist bijna 90 procent niet dat er een AI meeluisterde. Slechts 28 procent voelt zich comfortabel bij AI-transcriptie in een gesprek over psychische klachten, en 81 procent wil dat er vooraf toestemming wordt gevraagd.

Ethicus André Krom van het LUMC, ook betrokken bij het consortium, ziet daar het grootste risico: "Het vertrouwen sneuvelt zodra iemand het achteraf ontdekt." Hij waarschuwt ook voor te veel vertrouwen in gunstige onderzoeksresultaten, zoals studies die AI-modellen prijzen omdat ze protocollen beter volgen dan artsen. "Het volgen van een protocol is compliance. Professionele verantwoordelijkheid houdt ook in: waar nodig afwijken van het protocol."

Wat dit signaleert

De norm die bepaalt of een AI-verslag goed genoeg is, wordt hier niet door een toezichthouder geschreven maar door de organisaties die de tool al gebruiken. Dat patroon geldt breder dan de zorg: bij een notulist op een klantgesprek, een AI die servicetickets samenvat of een model dat een intakegesprek omzet in een dossier is er geen instantie die vooraf zegt dat het veilig genoeg is. Wie daar grip op wil, komt uit bij hetzelfde recept als het RIGH:T-raamwerk: steekproeven op je eigen output, geteld naar fouttype en naar de vraag of de fout iets uitmaakt voor de beslissing die erop volgt, met een vaste risicodrempel en een audit-trail die je onder de AI Act toch al moet kunnen tonen.

De Britse zaak laat zien wat er gebeurt als die meting ontbreekt. Dan is de laatste controle niet de professional en niet de toezichthouder, maar de klant of de patiënt die toevallig zijn eigen dossier leest.