Wat is een AI-hallucinatie?

Een AI-hallucinatie is wanneer een AI-model met grote overtuiging iets zegt dat niet klopt. Het verzint feiten, citeert bronnen die niet bestaan, of geeft antwoorden die logisch klinken maar feitelijk onjuist zijn. Dit is geen bug, het is een eigenschap van hoe LLMs werken. Ze voorspellen het meest waarschijnlijke volgende woord, niet het meest waarheidsgetrouwe woord. Soms overlappen die twee, soms niet. Hallucinaties zijn het grootste risico bij het inzetten van AI in je bedrijf. Een AI die een verkeerde prijs noemt in een offerte of een onbestaand beleid citeert naar een klant kan serieuze schade veroorzaken. Daarom is human-in-the-loop zo belangrijk. Bij Elecho bouwen we altijd checks in: de AI Medewerker doet het voorwerk, maar een mens controleert de output voor kritieke acties. Zo combineer je de snelheid van AI met de betrouwbaarheid van menselijke controle.