Hvad betyder Grounding?
Grounding betyder i generativ AI, at et svar knyttes til information, som kan kontrolleres. Grundlaget kan være en produktmanual, et opslag i et ordresystem eller udvalgte søgeresultater. Formålet er at give modellen relevante fakta til den aktuelle opgave og gøre svaret lettere at efterprøve.
Det er beslægtet med RAG, hvor et system henter materiale før eller under genereringen. Grounding beskriver selve forankringen i et grundlag, mens RAG er en bestemt måde at bygge en sådan arbejdsgang på. Et direkte opslag i et system kan også give et konkret kildegrundlag uden en omfattende søgepipeline.
En kildehenvisning er ikke i sig selv bevis. Dokumentet skal faktisk understøtte den påstand, henvisningen står ved, og være relevant for den aktuelle sag og periode. Ellers bliver et forkert svar blot lettere at forveksle med et dokumenteret svar.
Knyt dokumentation til det konkrete udsagn
Et svar kan indeholde flere påstande med forskellige kilder. En manual kan forklare vedligeholdelse, mens et systemopslag angiver den aktuelle serviceaftale. En samlet kildeliste nederst fortæller ikke nødvendigvis, hvilket grundlag der støtter hvad.
Bed derfor løsningen bevare henvisninger på et niveau, som passer til opgaven. Ved en kort faktabesvarelse kan et bestemt afsnit være tilstrækkeligt. Ved sammenligning af aftaler skal hvert relevant vilkår kunne spores til den rigtige dokumentversion.
Vis når grundlaget ikke rækker
Et søgesystem returnerer ofte det nærmeste match, også når et dækkende svar ikke findes. Grounding kræver derfor mere end at indsætte de højest rangerede uddrag. Modellen eller en separat kontrol skal kunne markere, at materialet ikke besvarer spørgsmålet.
Modstridende kilder bør heller ikke glattes ud til en sikker konklusion. En relevant arbejdsgang viser konflikten, prioriterer efter dokumenterede regler for gyldighed og sender uafklarede tilfælde videre til den person, der ejer informationen.
Et eksempel fra praksis
Et kundeteam besvarer spørgsmål om en maskines garanti. Den generelle manual beskriver standardvilkår, mens den konkrete ordreaftale kan have en anden periode. Assistenten modtager begge med tydelig kilde og dato.
Et godt svar skelner mellem standardvilkåret og den aktuelle aftale. Hvis ordreaftalen ikke kan findes, skal assistenten forklare, at den kun har det generelle grundlag, og bede om den manglende dokumentation. Den må ikke udlede kundens konkrete rettigheder alene ud fra et lignende køb.
Typiske faldgruber
- En kilde bliver citeret, selv om den ikke understøtter påstanden.
- Et generelt dokument bruges som bevis for en kundes konkrete aftale.
- Manglende søgeresultater skjules bag et sandsynligt svar.
Det skal I afklare
- Kontrollér sammenhængen mellem påstand, kilde og dokumentversion.
- Test spørgsmål, som materialet ikke kan besvare.
- Definér hvordan modstridende eller forældede oplysninger håndteres.
Spørgsmål og svar
Fjerner grounding alle faktuelle fejl?
Nej. Søgning kan finde forkert materiale, kilder kan være fejlbehæftede, og modellen kan fortolke dem forkert. Forankring gør kontrol mulig, men erstatter den ikke.
Skal alle svar have webkilder?
Nej. Den relevante kilde kan være et internt dokument eller et autoriseret systemopslag. Kildevalget skal passe til den konkrete påstand.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.
- Google Cloud: Grounding overview ↗Forbindelse mellem modeloutput og verificerbare informationskilder.
- Lewis m.fl.: Retrieval-Augmented Generation ↗Hentet viden som grundlag for generering.