Human-in-the-loop bij AI-verslaglegging: waarom een mens moet goedkeuren

Human-in-the-loop betekent dat een AI wel een concept mag schrijven, maar dat een mens het altijd leest, corrigeert en goedkeurt vóórdat het gebruikt wordt. Bij AI-verslaglegging is dat geen luxe, maar noodzaak. Een taalmodel produceert soms ‘hallucinaties’: vloeiend geformuleerde zinnen die niet in het gesprek stonden. Onderzoek laat zien dat foutieve AI-suggesties ook getrainde professionals meesleuren — het bekende risico van automation bias. En de wet vraagt het expliciet: bij besluiten met gevolgen voor mensen mag een algoritme niet alleen beslissen, er moet betekenisvolle menselijke tussenkomst zijn [1][4]. Een AI-verslag is daarom een concept totdat iemand die het gesprek voerde het bevestigt. Die persoon is verantwoordelijk voor wat er in het dossier komt, niet het model. In dit artikel lees je waarom goedkeuren verplicht en verstandig is, wanneer die goedkeuring ‘betekenisvol’ is en niet slechts een symbolische klik, en hoe je die stap technisch afdwingt in plaats van hoopt dat mensen hem doen.

Wat is human-in-the-loop precies?

Human-in-the-loop (HITL) is een werkwijze waarbij een AI-systeem een taak grotendeels uitvoert, maar een mens op een beslissend moment in de lus zit: die persoon beoordeelt de output, past hem waar nodig aan en geeft pas dan groen licht. De AI versnelt het werk; de mens houdt de eindverantwoordelijkheid. Het tegenovergestelde is human-out-of-the-loop: het systeem beslist en handelt zonder dat iemand er nog naar kijkt.

Bij AI-verslaglegging vertaalt dat zich naar één simpele regel: het model schrijft een verslag, maar dat verslag blijft een concept tot de betrokken professional het heeft gereviewd en goedgekeurd. Pas dan is het een verslag dat in het dossier of de rapportage terechtkomt. De AI stelt voor, de mens beschikt. Dat onderscheid tussen ‘voorstel’ en ‘definitief’ is de kern van veilige AI-ondersteuning — en het verschil tussen een handige assistent en een onbewaakt systeem dat fouten het dossier in schrijft.

Drie redenen waarom een mens moet goedkeuren

1. AI maakt fouten die er echt uitzien

Taalmodellen genereren tekst op basis van waarschijnlijkheid, niet op basis van waarheid. Meestal klopt het, soms niet — en de fout is doorgaans vlekkeloos geformuleerd. In een verslag ontstaan twee soorten problemen: weglatingen (iets belangrijks dat wél is gezegd, staat er niet in) en hallucinaties (iets dat niet is gezegd, staat er wél in). Bij medische AI-scribes ligt het aantal gerapporteerde hallucinaties naar schatting laag, rond 1 tot 3 procent, maar op grote aantallen consulten kan dat alsnog leiden tot een gemiste diagnose of verkeerde behandeling [6]. Zelfs waar fouten zeldzaam zijn — zoals bij Kaiser Permanente, waar meer dan 25.000 zorgverleners AI-scribes gebruiken — blijft de conclusie dat menselijke controle noodzakelijk is [9]. Geen enkele serieuze aanbieder belooft foutloosheid; wat je wél mag eisen is controleerbaarheid: de mogelijkheid om elke bewering te toetsen aan wat er echt gezegd is. Hoe je dat aanpakt lees je in AI-hallucinaties voorkomen.

2. Zonder goedkeurmoment sluipt automation bias binnen

Je zou denken: een ervaren professional pikt die fouten er wel uit. Het tegendeel blijkt waar. Automation bias is de neiging van mensen om suggesties van een geautomatiseerd systeem te vertrouwen en de eigen twijfel opzij te zetten. In een gecontroleerd onderzoek in het tijdschrift Radiology lazen 27 radiologen mammogrammen met hulp van een systeem dat zij voor AI aanzagen. Kregen zij een onjuiste AI-suggestie, dan kelderde hun juistheid dramatisch — bij de minst ervaren lezers van bijna 80 procent naar zo’n 20 procent, en ook zeer ervaren radiologen zakten fors [5]. De AI-fout werd hún fout. Dit is precies waarom een bewust goedkeurmoment ertoe doet: niet de aanwezigheid van een mens telt, maar dat die mens actief en kritisch beoordeelt in plaats van meeleest en meeklikt. De AI Act benoemt automation bias zelfs expliciet als iets waar toezichthouders zich bewust van moeten zijn [4].

3. Iemand moet verantwoordelijk zijn — en dat kan geen model zijn

Een verslag heeft gevolgen. Het bepaalt hoe een volgende hulpverlener een cliënt behandelt, wat er in een evaluatie staat, of wat een rechter later leest. De verantwoordelijkheid daarvoor ligt bij een mens met een beroepsverantwoordelijkheid, niet bij software. Goedkeuren is het moment waarop die verantwoordelijkheid wordt genomen: “ik heb dit gelezen, het klopt, ik sta ervoor.” Zonder dat moment is er een verslag zonder eigenaar — en dat is zowel juridisch als voor de kwaliteit van zorg onhoudbaar.

Wat de wet zegt: AVG en de AI Act

Human-in-the-loop is niet alleen goed gebruik, het raakt aan harde regels. Artikel 22 van de AVG geeft mensen het recht om niet onderworpen te worden aan een uitsluitend geautomatiseerd besluit dat rechtsgevolgen heeft of hen in aanmerkelijke mate treft [1]. AI-verslaglegging is meestal geen besluit op zichzelf, maar de verslagen voeden wél beslissingen over mensen. Dat maakt de geest van deze regel relevant: waar een uitkomst gevolgen heeft voor iemand, hoort een mens betrokken te zijn die de uitkomst echt kan beoordelen en bijsturen [1].

Daar komt de Europese AI-verordening (AI Act) bij. Artikel 14 verplicht dat AI-systemen met een hoog risico zo ontworpen zijn dat mensen er effectief toezicht op kunnen houden: de output begrijpen, de grenzen van het systeem kennen, ingrijpen, negeren of stoppen wanneer nodig — en juist niet blind vertrouwen [4]. Het Nederlandse Algoritmekader van de overheid vertaalt dit naar de praktijk: richt bij besluitvorming betekenisvolle menselijke tussenkomst in, zodat een mens de beslissing daadwerkelijk kan wegen [8]. Voor de zorg specifiek betekent dit niet dat je DPIA-plicht of andere verplichtingen vervallen omdat je een mens laat goedkeuren — die blijven gewoon bestaan. Wel is human-in-the-loop een bouwsteen die helpt aantonen dat je zorgvuldig werkt.

Wanneer is goedkeuren ‘betekenisvol’ en niet symbolisch?

Hier zit de valkuil. Een mens die zonder na te denken op “akkoord” klikt, voegt niets toe. Dat is precies wat toezichthouders en rechters ondertussen doorhebben. In het SCHUFA-arrest van het Hof van Justitie van de EU (7 december 2023) oordeelde het Hof dat er géén sprake is van betekenisvolle menselijke tussenkomst wanneer een algoritme-uitkomst vrijwel altijd tot hetzelfde besluit leidt — ook al zet er formeel een mens zijn handtekening onder [3]. Een goedkeuring die inhoudelijk een automatisme is, telt niet als tussenkomst.

De Autoriteit Persoonsgegevens werkt daarom aan handvatten voor wanneer menselijke tussenkomst écht betekenisvol is; de kern is dat de mens de relevante informatie moet kunnen bekijken, de uitkomst kan beoordelen en zo nodig kan wijzigen of terugdraaien [2]. Dat is geen abstracte eis. Uit onderzoek van de AP bleek dat van 1.480 ondervraagden liefst 38 procent niet wist dat ze überhaupt recht hebben op een menselijke blik bij een besluit door een algoritme [7]. Het recht bestaat, maar wordt slecht ingevuld — en dat maakt het des te belangrijker dat organisaties het goed regelen.

Betekenisvol goedkeuren bij AI-verslaglegging vraagt drie dingen:

• Zicht op de bron. De reviewer moet elke bewering kunnen terugleggen naast wat er letterlijk gezegd is. Kan dat niet, dan keurt hij een verhaal goed dat hij niet kan controleren.
• Ruimte en tijd om te wijzigen. Goedkeuren mag geen doorgeefluik zijn. De reviewer moet daadwerkelijk kunnen corrigeren, aanvullen en schrappen.
• Een echte keuze om nee te zeggen. Als “akkoord” de enige knop is die vooruit brengt, is afkeuren geen reële optie. Er moet een pad zijn om te herverwerken of te herschrijven.

Van beleid naar techniek: goedkeuring afdwingen

Beleid dat zegt “lees je verslag altijd na” werkt op een rustige dinsdag. Het bezwijkt op een volle vrijdag na een lange dienst — precies wanneer automation bias het sterkst toeslaat. Daarom is het verstandig om human-in-the-loop niet als gedragsregel te formuleren maar als harde grens in het systeem: zonder review geen export. Als een verslag technisch niet naar buiten kan voordat een mens het heeft goedgekeurd, is de zwakste schakel — een gehaast mens dat de stap wil overslaan — geen risico meer.

Zo is dat in Verbinn opgelost: elk verslag is en blijft een concept tot een mens het goedkeurt, en die goedkeuring is niet symbolisch omdat elke zin klikbaar is naar de letterlijke bronregel in het transcript — de reviewer ziet meteen waar een bewering vandaan komt en kan een hallucinatie eruit halen vóór goedkeuring. Pas na goedkeuring is export mogelijk, en dat hele verloop wordt vastgelegd in een append-only auditlog, zodat achteraf aantoonbaar is dat een mens de stap echt heeft gezet. Zo wordt goedkeuren afdwingbaar in plaats van hoopvol. Hoe die zin-tot-bron-controle precies werkt, lees je in Bewijsbaarheid in AI-verslagen.

Checklist: is jouw review echt human-in-the-loop?

Wil je toetsen of jouw werkwijze — met welke tool dan ook — daadwerkelijk human-in-the-loop is? Loop deze vragen langs:

• Kan een verslag het systeem verlaten zonder dat een mens het heeft goedgekeurd? (Zo ja: dan is de loop niet gesloten.)
• Kan de reviewer elke bewering herleiden naar wat er letterlijk gezegd is, of moet hij het model op zijn woord geloven?
• Heeft de reviewer werkelijk de mogelijkheid — en de tijd — om te corrigeren en af te keuren, of is “akkoord” de enige weg vooruit?
• Weet de reviewer dat automation bias bestaat en dat vloeiende tekst geen bewijs van juistheid is?
• Is achteraf aantoonbaar wie wanneer heeft goedgekeurd?

Vijf keer ja betekent dat de mens niet alleen ín de lus zit, maar de lus ook echt sluit. Dat is het verschil tussen een AI die je werk overneemt en een AI die je werk versnelt terwijl jij de baas blijft.