Waarom AI's hallucineren — en hoe je verslagen bouwt die het niet doen

Een AI hallucineert wanneer hij tekst produceert die vloeiend en overtuigend klinkt, maar niet waar is — een verzonnen citaat, een niet-bestaande medicatie, een afspraak die nooit is gemaakt. Dat gebeurt omdat een taalmodel geen feiten opzoekt: het voorspelt bij elke stap het meest waarschijnlijke volgende woord. Als het echte antwoord onduidelijk of onbekend is, vult het model zelfverzekerd iets in dat er plausibel uitziet. Onderzoekers van OpenAI laten zien dat dit geen defect is maar een direct gevolg van hoe modellen worden getraind en beoordeeld: standaard evaluaties belonen gokken boven het toegeven van onzekerheid, dus leren modellen liever te raden dan "ik weet het niet" te zeggen [1][2]. Je maakt een AI dus niet foutloos — dat kan statistisch gezien niet. Wat je wél kunt bouwen, is een verslag dat controleerbaar is: elke zin herleidbaar naar de letterlijke bron, een mens die goedkeurt voordat er iets telt, en een meetlat die kwaliteit bewaakt. Niet de hallucinatie uitbannen, maar zorgen dat ze niet ongezien blijft.

Wat een hallucinatie precies is

In AI-taal is een hallucinatie output die onjuist of niet te onderbouwen is, maar toch met volle zekerheid wordt gepresenteerd. Onderzoek onderscheidt grofweg twee soorten [3]. De eerste is onwaarheid tegenover de feiten: het model beweert iets dat simpelweg niet klopt in de echte wereld — een verzonnen jaartal, een niet-bestaande richtlijn. De tweede, en voor verslaglegging de belangrijkste, is ontrouw aan de bron: het model verzint iets dat niet in het aangeleverde materiaal staat, of spreekt dat materiaal zelfs tegen. Bij een gespreksverslag is dat de gevaarlijkste variant. De AI hoort een gesprek en moet daar trouw aan blijven; zodra hij een zin toevoegt die nooit is gezegd, of een nuance wegpoetst, is het verslag ontrouw aan wat er werkelijk gebeurde — ook al klinkt het perfect.

Het venijn zit in de vorm. Een hallucinatie ziet er niet uit als een fout. Er staat geen rood kruis bij, geen waarschuwing — er staat een grammaticaal correcte, geloofwaardige zin die naadloos in de context past. Wie een concept alleen vluchtig doorleest, leest er zonder meer overheen.

Waarom taalmodellen hallucineren

De kern is dat een taalmodel een voorspelmachine is, geen naslagwerk. Het is getraind op enorme hoeveelheden tekst en heeft daaruit geleerd welke woorden waarschijnlijk op elkaar volgen. Het "weet" niets in de menselijke zin; het berekent kansen. Voor veelvoorkomende, goed gedocumenteerde feiten werkt dat prima. Maar bij zeldzame details — een specifieke datum, een eigennaam, iets wat maar één keer in een gesprek viel — zijn de signalen zwak, en dan vult het model de leemte op met wat statistisch het beste past. Dat is precies het moment waarop een verzinsel ontstaat.

Een tweede oorzaak is subtieler en misschien belangrijker. OpenAI-onderzoekers Kalai, Nachum, Vempala en Zhang tonen aan dat de manier waarop we modellen trainen en beoordelen hallucinaties actief aanmoedigt [1][2]. De meeste benchmarks scoren binair: goed of fout, punten of geen punten. Een model dat "dat weet ik niet" antwoordt, krijgt gegarandeerd nul punten. Een model dat gokt, heeft een kans om toevallig goed te zitten. Onder die spelregels is raden altijd de winnende strategie — precies zoals een student bij een meerkeuzetoets beter kan gokken dan een vraag openlaten. Zo leren modellen zelfverzekerd te antwoorden, ook als ze het niet weten. De onderzoekers noemen hallucinaties daarom geen mysterie maar een voorspelbaar, statistisch gevolg van hoe deze systemen worden geoptimaliseerd [1][2]. Met andere woorden: je kunt de neiging verkleinen, maar niet met wortel en tak uitroeien.

Twee plekken waar het bij verslagen misgaat

Een AI-gespreksverslag komt in twee stappen tot stand, en op allebei kan een hallucinatie insluipen.

Bij de transcriptie. Het gesproken woord wordt eerst omgezet naar tekst. Ook daar hallucineren modellen. In de studie Careless Whisper, gepresenteerd op de ACM FAccT-conferentie van 2024, vonden onderzoekers dat OpenAI's veelgebruikte Whisper-model in ongeveer 1% van de audiofragmenten hele zinnen verzon die in geen enkele vorm in de opname stonden [4]. Van die verzinsels bevatte 38% expliciete schade: verzonnen geweld, onjuiste associaties of valse autoriteit. In één voorbeeld transcribeerde Whisper één correcte zin en plakte er daarna vijf verzonnen zinnen achter met woorden als "terreur", "mes" en "gedood" — niets daarvan was gezegd [4]. Volgens vakblad Science is dit extra zorgelijk omdat Whisper juist in de zorg breed wordt ingezet om gesprekken met patiënten vast te leggen [5]. Een stilte, ruis of een onduidelijk woord is genoeg om het model iets te laten invullen.

Bij de samenvatting. Daarna maakt een taalmodel van het transcript een leesbaar verslag. Ook hier kan het model toevoegen wat er niet stond: een conclusie die niemand trok, een afspraak die impliciet leek maar nooit is gemaakt, een naam of dosering die net verkeerd is overgenomen. Bij lange gesprekken groeit dat risico, omdat het model soms informatie moet samenpersen die niet in één keer in zijn geheugen past — een reden waarom de manier van samenvatten ertoe doet, zoals bij map-reduce voor lange gesprekken.

Waarom "meer AI" het niet oplost

De verleidelijke gedachte is: gebruik gewoon een beter model, of laat de AI zichzelf controleren. Beide helpen, maar geen van beide lost het op. Nieuwere, redenerende modellen hallucineren minder, maar nog steeds meetbaar [1]. En zelfs technieken die het model expliciet aan echte bronnen koppelen — retrieval-augmented generation, waarbij de AI eerst relevante documenten ophaalt — halen het probleem niet weg. Een veelzeggend voorbeeld komt uit de juridische hoek. Onderzoekers van Stanford testten commerciële juridische AI-tools die juist met bronkoppeling adverteerden. De uitkomst: Lexis+ AI en Ask Practical Law AI produceerden nog altijd in meer dan 17% van de gevallen onjuiste informatie, en Westlaw's AI-Assisted Research in meer dan 34% [6]. Beter dan een kaal taalmodel (dat op dezelfde vragen 58% tot 82% fout zat), maar bepaald niet foutloos — terwijl de marketing "hallucinatievrij" suggereerde [6].

De les is niet dat de techniek waardeloos is; ze is juist enorm nuttig. De les is dat je nooit mag vertrouwen op foutloosheid. Ook de Autoriteit Persoonsgegevens waarschuwt dat generatieve AI onbetrouwbare informatie kan geven en dat uitkomsten in risicovolle situaties altijd door bekwame mensen moeten worden beoordeeld [7]. De oplossing zit dus niet in een slimmer model, maar in een slimmer systeem eromheen.

Zo bouw je verslagen die het niet doen

Als hallucinaties niet volledig te voorkomen zijn, verschuift het doel: niet "de AI mag geen fout maken", maar "een fout kan nooit ongezien doorglippen". Dat is een architectuurkeuze, geen belofte. Vier bouwstenen maken het verschil.

• Bewijsweergave: elke zin klikbaar naar de bron. Maak elke zin in het verslag herleidbaar naar de letterlijke regel uit het transcript. Zo verandert controle van "klinkt dit geloofwaardig?" in "staat dit er echt?". Een verzinsel valt op zodra je erop klikt en ziet dat de bron ontbreekt. Dit is de meest directe tegenmaatregel tegen ontrouw aan de bron.
• Een mens keurt goed — technisch afgedwongen. Laat elk verslag een concept blijven tot een mens het beoordeelt en goedkeurt. Geen export, geen dossier, geen verzending zolang die stap ontbreekt. Zet die blokkade in de techniek, niet in een beleidsregel, want beleid sneuvelt zodra het druk wordt.
• Meet de kwaliteit vóór je iets vrijgeeft. Je kunt hallucinatieneiging meten met een vaste set testgesprekken en modeluitkomsten vergelijken met de gewenste output. Zo weet je of een modelwijziging het beter of juist slechter maakt, in plaats van te hopen. Meer daarover in eval-suites: hoe je AI-kwaliteit meetbaar maakt.
• Leg vast wie wat goedkeurde. Een auditlog dat je alleen kunt aanvullen, niet wijzigen, maakt achteraf aantoonbaar dat een mens de eindverantwoordelijkheid nam.

Zo is Verbinn gebouwd: elk verslag is en blijft een concept tot een mens het goedkeurt, elke zin is terug te klikken naar de letterlijke bronregel, en zonder review is export technisch onmogelijk. Maar het principe is belangrijker dan het product. Welk hulpmiddel je ook kiest, stel dezelfde vraag: laat het je de bron zien, en is de menselijke goedkeuring een echte blokkade of slechts een aanbeveling? Een verantwoord verslag is niet het verslag dat nooit een fout bevat — dat bestaat niet — maar het verslag waarin een fout niet ongemerkt waarheid kan worden.