Hvad betyder Hallucination?
En hallucination er et genereret udsagn, som er forkert, opfundet eller ikke understøttet af det relevante grundlag. Det kan være et opdigtet citat, en forkert paragraf eller en produktfunktion, der ikke findes. Svaret kan samtidig virke sprogligt sikkert.
Problemet kan skyldes manglende viden, forkert hentede kilder eller modellens fortolkning. En kildehenvisning løser ikke problemet alene: kilden kan være reel uden at understøtte påstanden. Lav temperature er heller ikke en garanti mod faktuelle fejl.
Kontrollér både, om svaret følger de tilførte kilder, og om kilderne er korrekte og aktuelle. Automatiske evalueringer kan hjælpe med at finde risici, men bør sammenholdes med faglig kontrol. Systemet bør kunne svare, at grundlaget er utilstrækkeligt, og have en vej videre til et menneske.
Et eksempel fra praksis
Et testsæt kan indeholde spørgsmål uden svar i virksomhedens dokumenter. Den ønskede adfærd er da at markere den manglende viden. Et detaljeret, men udokumenteret svar må ikke tælle som en løst sag.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.