Hvad betyder Langtidshukommelse i AI-agenter?
Langtidshukommelse i en agent er et vedvarende lager af oplysninger, som må bruges i senere opgaver. Det kan være en brugers foretrukne rapportformat, godkendte begreber eller erfaringer fra tidligere arbejdsforløb. Lagringen ligger typisk uden for selve sprogmodellen.
Den adskiller sig fra en sags samtalehistorik ved at have et udtrykkeligt formål på tværs af sessioner. Dette gør udvælgelse vigtigere: noget, der var relevant i går, skal ikke nødvendigvis påvirke alle fremtidige beslutninger. En virksomhed bør kunne forklare, hvorfor en bestemt oplysning bliver husket, og hvem den tilhører.
Gem fakta med kontekst
En post kan indeholde selve oplysningen, en kilde, tidspunktet og dens gyldighed. Et navnerum eller en tilsvarende afgrænsning kan adskille virksomheder, brugere og formål. Ved genfinding skal systemet først håndhæve adgang og derefter vælge de relevante poster. En søgning efter lignende indhold løser ikke adgangskontrollen.
Skeln også mellem en bekræftet præference og en automatisk udledt antagelse. Hvis en medarbejder kun én gang beder om et kort svar, er det ikke nødvendigvis en permanent regel. Det er ofte bedre at lade brugeren vælge, hvilke præferencer der skal gælde fremover.
Ret og udfas frem for blot at tilføje
Et lager, der kun vokser, vil efterhånden indeholde modstridende oplysninger. Beslut, hvordan nyere bekræftelser erstatter gamle, og hvordan udløb håndteres. Gør sletning til en reel funktion med kontrol af genfinding bagefter. Hvis en hukommelse er indarbejdet i et resume eller andet afledt materiale, skal dette lag indgå i vurderingen. Langtidshukommelse bør derfor have en ejer og vedligeholdelsesregler på samme måde som anden anvendt virksomhedsdata.
Et eksempel fra praksis
En rådgivningsvirksomhed bruger en agent til tilbagevendende statusrapporter. Den må huske kundens godkendte afsnitsrækkefølge og terminologi, men henter aktuelle projekttal fra kildesystemet hver gang. Når kunden ændrer rapportformen, opdateres præferencen med kilde og dato. En test bruger to kunder med forskellige formater og kontrollerer, at præferencerne aldrig blandes. Den undersøger også, at den gamle opsætning ikke vender tilbage efter en ny samtale eller et resumé.
Typiske faldgruber
- At gemme fortolkninger om personer som sikre og permanente fakta.
- At genbruge forældede tal, som burde hentes fra en aktuel kilde.
- At tilbyde en sletteknap uden at kontrollere afledte lag og genfinding.
Det skal I afklare
- Definér hvilke oplysninger der har værdi på tværs af opgaver.
- Gem kilde, gyldighed og tilhørsforhold sammen med indholdet.
- Afprøv opdatering og sletning med konkrete modstridende eksempler.
Spørgsmål og svar
Er en vektordatabase nødvendig?
Nej. En almindelig database kan være tilstrækkelig til strukturerede præferencer og referencer. Semantisk søgning er relevant, når systemet skal finde passende oplysninger blandt mange frie tekster.
Bør aktuelle kundeoplysninger ligge i hukommelsen?
Ofte er en reference til kildesystemet bedre. Oplysninger som ordrestatus og priser kan ændre sig hurtigt og bør normalt læses fra den autoritative kilde ved brug.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.
- LangChain: Long-term memory ↗Lagring og genfinding inden for afgrænsede navnerum.
- CoALA: Cognitive Architectures for Language Agents ↗Hukommelse, handlingsrum og beslutningsproces i sprogagenter.