Een support-chatbot vertelt een klant dat terugbetalingen 14 dagen duren. Het echte beleid luidt: 7. Het antwoord was vloeiend, beleefd en verkeerd. Dit is een AI-hallucinatie en het is een van de belangrijkste redenen waarom AI-functies zorgvuldig moeten worden ontworpen en getest.

Deze gids legt de oorzaken in heldere bewoordingen uit en richt zich op praktische preventie. De automatische controle aan het einde is een klein Python-script dat we hebben uitgevoerd op basis van voorbeeldantwoorden die we zelf hebben geschreven. Het werd niet uitgevoerd tegen een live AI-model.

Wat is een AI-hallucinatie?

Er is sprake van een hallucinatie wanneer een generatief AI-systeem inhoud produceert die feitelijk onjuist is, verzonnen is of niet wordt ondersteund door de verstrekte informatie, terwijl deze als waar wordt gepresenteerd. De term is een metafoor. Het model ziet geen dingen. Het genereert tekst die past in het patroon van een goed antwoord, zonder gebonden te zijn aan feiten.

Het gevaarlijke deel is het vertrouwen. Een gehallucineerd antwoord ziet er meestal precies zo uit als een juist antwoord, met dezelfde toon, structuur en details.

Waarom taalmodellen hallucineren

Een groot taalmodel wordt getraind om het volgende stuk tekst, een token, te voorspellen op basis van patronen in een enorme hoeveelheid trainingsgegevens. Daaruit volgen een aantal zaken:

• Plausibel is niet hetzelfde als waar. Het model leert hoe antwoorden er doorgaans uitzien. Als de feiten ontbreken, kan de meest waarschijnlijk ogende voortzetting nog steeds worden bedacht.
• Huizen en grenswaarden. Trainingsgegevens bevatten hiaten en eindigen op een bepaalde datum. Het model kan ontbrekende feiten aanvullen in plaats van te zeggen dat het het niet weet.
• Training beloont antwoorden. Onderzoek, waaronder een OpenAI-paper uit 2025 over waarom modellen hallucineren, stelt dat gangbare trainings- en evaluatiemethoden het raden belonen in plaats van het toegeven van onzekerheid, vergelijkbaar met een meerkeuzetoets zonder straf voor foute antwoorden.
• Dubbelzinnige aanwijzingen. Vage vragen nodigen het model uit om details aan te nemen.
• Lange of rommelige context. Belangrijke feiten kunnen over het hoofd worden gezien als ze verborgen zijn in lange invoer.

Veel voorkomende soorten hallucinaties

Onderzoekers splitsen deze vaak op in feitelijkheidsfouten, die in tegenspraak zijn met de echte wereld, en trouw fouten, die in tegenspraak zijn met het bronmateriaal dat aan het model werd gegeven. Voor zakelijke apps die op uw eigen documenten zijn gebouwd, kunt u de betrouwbaarheid meestal het meest direct testen.

Verzonnen code verdient een speciale waarschuwing. Als een assistent voorstelt een pakket te installeren dat niet bestaat, kan een aanvaller een kwaadaardig pakket onder die naam publiceren. Controleer of elke voorgestelde afhankelijkheid reëel en vertrouwd is voordat u deze installeert.

Waar het er het meest toe doet

Een gehallucineerd filmfeit is onschadelijk. Een gehallucineerde medicijndosis, juridisch citaat, terugbetalingsbeleid of financieel cijfer is dat niet. Er zijn goed gerapporteerde gevallen waarin advocaten rechtszaken hebben ingediend met citaten uit de zaak, uitgevonden door AI-tools. Rangschik uw gebruiksscenario’s op basis van de kosten van een verkeerd antwoord en pas de sterkste controles toe als de kosten hoog zijn.

Hoe hallucinaties te verminderen

1. Onderbouw het antwoord op betrouwbare gegevens. Geef het model de relevante feiten in plaats van te vertrouwen op het geheugen ervan.
2. Sta ‘Ik weet het niet’ toe. Laat het model expliciet zeggen wanneer de informatie niet beschikbaar is, en beschouw dat als een goed resultaat.
3. Wees specifiek. Duidelijke, beperkte vragen laten minder ruimte voor uitvindingen. Onze snelle technische handleiding behandelt dit gedetailleerd.
4. Vraag om citaten of citaten uit de aangeboden bronnen en verifieer deze vervolgens automatisch.
5. Gebruik gestructureerde uitvoer, zoals JSON met vaste velden, zodat antwoorden gemakkelijker te valideren zijn.
6. Gebruik tools voor zaken waar modellen zwak in zijn, zoals berekeningen, datums en live opzoeken van gegevens.
7. Houd een mens op de hoogte bij beslissingen waarbij veel op het spel staat.

Aarden met je eigen data

Retrieval-augmentedgeneration (RAG) is het meest voorkomende aardingspatroon. Het systeem doorzoekt uw documenten op passages die relevant zijn voor de vraag en neemt deze op in de prompt, met instructies om alleen vanuit die passages te antwoorden. Het reduceert verzonnen feiten scherp, maar het is geen geneesmiddel. Het model kan een passage nog steeds verkeerd lezen, passages verkeerd combineren of terugvallen op zijn eigen kennis, en de zoekstap kan de verkeerde documenten opleveren. Geaarde systemen hebben dus nog steeds controles nodig.

Een eenvoudige automatische controle

Hier is een goedkope beveiliging die we hebben gebouwd: markeer elk getal in een antwoord dat niet in de brontekst voorkomt. Het is grof, maar cijfers als prijzen, dagen en limieten zijn precies waar kostbare hallucinaties de kop opsteken.

import re

SOURCE = """Refunds are paid within 7 days to the original payment method.
Orders over 1000 rupees ship free. Standard delivery takes 3 to 5 working days."""

def unsupported_numbers(answer, source):
    found = set(re.findall(r"\d+", answer))
    allowed = set(re.findall(r"\d+", source))
    return sorted(found - allowed, key=int)

We hebben drie antwoorden getest die zijn geschreven om de typische modeluitvoer te imiteren:

grounded     -> no unsupported numbers
hallucinated -> ['14', '500']
partly       -> ['1']

Het “gehallucineerde” antwoord eiste een terugbetaling binnen 14 dagen en gratis verzending van meer dan 500 roepies, en beide cijfers werden betrapt. Het antwoord “gedeeltelijk” had correcte levertijden, maar voegde “of 1 dag met express” toe, wat het beleid nooit vermeldt, en dat werd ook betrapt. Een tweede controle verifieert of de geciteerde zinnen ook daadwerkelijk in de bron voorkomen:

{'paid within 7 days': True, 'no questions asked': False}

Deze controles hebben duidelijke grenzen. Ze missen verkeerde woorden, eenheden en niet-ondersteunde claims zonder cijfers, en ze zouden ten onrechte een correcte berekening markeren. Veel teams voegen een stap ‘LLM als rechter’ toe, waarbij een tweede model elke claim vergelijkt met de bronnen. Dat vangt meer op, maar het kan ook fout zijn, dus meet dat eens.

Testen op hallucinaties

Beschouw het hallucinatiepercentage als een kwaliteitsmaatstaf die je meet, en niet als een gevoel. Een praktische aanpak:

• Bouw een testset van echte vragen met bekende correcte antwoorden en bronnen.
• Voeg vragen toe die het systeem moet weigeren, omdat het antwoord niet in de gegevens staat.
• Scoor antwoorden op correctheid, trouw aan bronnen en passende weigeringen.
• Voer de set uit bij elke wijziging in aanwijzingen, modellen of ophaalinstellingen.
• Voorbeeldproductiegesprekken voor menselijke beoordeling.

De discipline van regressietesten is hier ook van toepassing: een vaste reeks cases, die bij elke verandering wordt uitgevoerd, waarbij de resultaten in de loop van de tijd worden vergeleken. Bij het kiezen van de manier waarop een systeem moet worden geaard, verklaart onze vergelijking van RAG versus fijnafstemming versus snelle engineering de afwegingen.

Advies voor dagelijkse gebruikers

• Verifieer feiten, cijfers, citaten en citaten uit de originele bron.
• Wees vooral voorzichtig met medische, juridische en financiële informatie.
• Plak de brontekst erin en vraag de assistent om alleen vanuit deze tekst te antwoorden.
• Vraag: “Hoe zelfverzekerd ben je, en waar is dit op gebaseerd?”, Maar onthoud dat het antwoord ook verkeerd kan zijn.

Kunnen hallucinaties geëlimineerd worden?

Niet met de huidige technologie. Nieuwere modellen en betere training hebben het aantal hallucinaties op veel benchmarks verminderd, en aarden helpt veel, maar elk systeem maakt nog steeds fouten. Het realistische doel is om fouten zeldzaam, gemakkelijk te detecteren en weinig impact te maken door middel van systeemontwerp, testen en duidelijke signalen naar gebruikers.

Hallucinaties in AI-coderingstools

Ontwikkelaars worden dagelijks geconfronteerd met hallucinaties in codeerassistenten: een methode die niet bestaat in een klasse, een verouderde configuratieoptie of een zelfverzekerde verklaring van een fout die in werkelijkheid door iets anders wordt veroorzaakt. De verdedigingen zijn degene die je al gebruikt voor menselijke code. Compileer of typecontrole het resultaat, voer de tests uit en lees de officiële documentatie voor elke API die u nog niet eerder hebt gebruikt. Wees extra voorzichtig met beveiligingsgevoelige code, zoals authenticatie, cryptografie en invoervalidatie, waarbij plausibel ogende code op subtiele wijze onveilig kan zijn. Beschouw AI-suggesties als een concept van een snelle maar onbetrouwbare collega: vaak nuttig, nooit automatisch correct.

Tot slot

Hallucinaties komen voort uit de manier waarop taalmodellen werken: ze genereren waarschijnlijke tekst, geen gecontroleerde feiten. Je kunt ze niet uitschakelen, maar je kunt er wel omheen ontwerpen. Grond antwoorden op basis van vertrouwde gegevens, laat het model zeggen “Ik weet het niet”, voeg automatische controles toe voor de details die er toe doen en meet de resultaten voortdurend.

Veelgestelde vragen

Blijf leren