Hvad betyder Svarverifikation?
Svarverifikation er arbejdet med at efterprøve et genereret resultat. Det begynder med at identificere de udsagn, som har betydning: tal, datoer, aftalevilkår, produktfakta eller konklusioner, der påvirker en beslutning. Derefter undersøges deres grundlag.
En model kan hjælpe med at formulere kontrolspørgsmål og finde påstande, som kræver dokumentation. Forskning i Chain-of-Verification undersøger en opdeling mellem første svar, kontrolspørgsmål og et revideret svar. Det er et eksempel på en metode, ikke en garanti for, at modellen kan kontrollere sig selv fuldstændigt.
Den stærkeste kontrol afhænger af påstanden. En beregning kan efterprøves med kode, et aftalevilkår med originaldokumentet og en aktuel status med et autoriseret systemopslag. Gentagelse af den samme påstand fra modellen er ikke et uafhængigt bevis.
Kontrollér det udsagn, som læseren vil handle på
Et svar kan være overvejende korrekt og stadig indeholde én afgørende fejl. Prioritér derfor de påstande, der påvirker penge, adgang, leverancer eller næste handling. En stavefejl har ikke samme betydning som en forkert frist.
Kilden skal understøtte netop udsagnet. Et dokument om en beslægtet produktserie er ikke nødvendigvis nok. Kontrollér også dato, version og om teksten beskriver en regel, en undtagelse eller blot et eksempel. Henvisningen skal bevare den sammenhæng, der gør påstanden forståelig.
Lad kontrollen kunne modsige det første svar
Hvis kontrollen kun får besked på at bekræfte et eksisterende svar, risikerer den at overse alternativer. Formulér kontrolspørgsmål neutralt, og brug originalmaterialet frem for alene modellens første formulering.
Definér også resultatet af kontrollen: bekræftet, modbevist eller utilstrækkeligt grundlag. Den sidste tilstand er vigtig. Manglende dokumentation er ikke bevis for det modsatte, men den er en grund til at undlade en sikker konklusion eller sende sagen videre.
Et eksempel fra praksis
En virksomhed forbereder en sammenfatning af en leverandøraftale. AI-udkastet siger, at support er tilgængelig alle dage. Kontrollen finder originalafsnittet og ser, at weekendhjælp kun gælder en særskilt tillægsordning.
Svaret rettes til at skelne mellem standardaftalen og tillægget. Hvis det ikke fremgår, om virksomheden har købt tillægget, bliver det et åbent spørgsmål til aftaleejeren. Kontrollen handler dermed om det konkrete vilkår og den aktuelle aftale, ikke om hvor troværdigt det oprindelige resumé lød.
Typiske faldgruber
- En ekstra modelgenerering tæller som uafhængig dokumentation.
- Kildehenvisningen peger på emnet, men understøtter ikke påstanden.
- Utilstrækkeligt grundlag bliver omsat til et sikkert ja eller nej.
Det skal I afklare
- Udpeg de påstande, som har betydning for næste handling.
- Efterprøv dem med den relevante originale kilde eller beregning.
- Markér bekræftelse, modstrid og manglende grundlag særskilt.
Spørgsmål og svar
Skal alle ord i et svar kontrolleres?
Kontrollen bør følge opgaven og konsekvenserne. Konkrete fakta og beslutningsrelevante konklusioner kræver mere opmærksomhed end almindelige overgangssætninger.
Kan en anden model være kontrollant?
Den kan være et ekstra led, men den kan dele fejl med den første model. Giv kontrollen adgang til relevante kilder og undersøg dens vurderinger på kendte fejl.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.
- Dhuliawala m.fl.: Chain-of-Verification ↗Adskillelse mellem udkast, kontrolspørgsmål og revideret svar.
- Anthropic: Reduce hallucinations ↗Kildebaseret kontrol og mulighed for at angive manglende grundlag.