Hallucination
Når en AI-model selvsikkert genererer information der lyder rigtigt men er forkert eller opfundet.
Hallucinationer er LLM'ers største svaghed. Modellen kan generere et detaljeret citat fra en ikke-eksisterende bog, opfinde lovparagraffer, finde på funktioner i et programmeringsbibliotek, eller fabrikere statistikker — alt sammen leveret med fuld selvtillid.
Årsagen ligger i hvordan LLM'er fungerer: de er optimeret til at generere plausibel tekst, ikke nødvendigvis sand tekst. Hvis træningen ikke har klart signal om sandhed (eller modellen blander to lignende fakta), kan den falde tilbage på det der "lyder rigtigt".
Modvirkninger: brug RAG så modellen har konkrete kilder; bed eksplicit om kildehenvisninger; sæt temperature lavt for faktuelle opgaver; brug evaluation-frameworks der spotter hallucinations; lad ikke modellen være sidste kontrol i kritiske opgaver (jura, sundhed, økonomi).