Hvad betyder Agenthukommelse?
Agenthukommelse er en funktion i applikationen omkring modellen. Den kan omfatte samtalehistorik, opgavestatus, bekræftede præferencer og referencer til tidligere arbejde. Oplysningerne kan ligge i en database eller dokumentlager og udvælges til modellens aktuelle input.
Det er ikke det samme som at træne modellen igen. En gemt oplysning kan påvirke et senere svar, fordi systemet læser den frem, ikke fordi modellens parametre er ændret. Dette skel er praktisk vigtigt: hukommelse skal kunne have en kilde, en ejer, en levetid og en måde at blive rettet på.
Gem det, der har et klart formål
Et hukommelsesdesign begynder med spørgsmål om brugen. Skal systemet huske en igangværende sag, en foretrukken rapportstruktur eller et bekræftet kundenummer? Disse oplysninger har forskellig levetid og adgangsgrænse. En midlertidig antagelse fra en enkelt samtale bør ikke automatisk blive en varig profiloplysning.
Når noget gemmes, kan posten indeholde værdi, kilde, registreringstidspunkt og status som bekræftet eller ubekræftet. Ved genfinding skal systemet også kontrollere, at oplysningen tilhører den rigtige bruger, virksomhed og opgave. Relevans alene er ikke en adgangstilladelse.
Hukommelse skal også kunne glemmes
Fejl i hukommelsen kan gentage sig over mange samtaler. Derfor bør en rettelse kunne erstatte eller ugyldiggøre en tidligere post, og sletning skal omfatte de lag, hvor den gemte oplysning genbruges. Test både den normale genfinding og et modstridende tilfælde: Hvad sker der, når brugeren siger, at den gamle præference ikke længere gælder? Systemet skal kunne bruge den nyere bekræftelse uden at lade et gammelt resume genindføre fejlen.
Et eksempel fra praksis
En intern tilbudsassistent må huske, at salgsteamet bruger en bestemt godkendt tilbudsskabelon. Den bør gemme skabelonens ID og version frem for hele tidligere tilbud med kundeoplysninger. Når skabelonen ændres, kan referencen opdateres centralt. En enkelt sælgers kladdeønske om en særlig rabat skal derimod blive i den konkrete sag. Kvalitetstesten undersøger, om en ny sag får korrekt skabelon, og om oplysninger fra andre kunder holdes adskilt.
Typiske faldgruber
- At kalde enhver gammel samtaletekst for sand og varig viden.
- At bruge semantisk lighed som erstatning for bruger- og virksomhedsadskillelse.
- At slette en profilpost, men lade et gammelt resume genindføre den.
Det skal I afklare
- Angiv formål, kilde og levetid for hver type hukommelse.
- Skeln mellem fakta, præferencer og foreløbige antagelser.
- Afprøv rettelse, sletning og adskillelse mellem to brugere.
Spørgsmål og svar
Lærer modellen automatisk af hukommelsen?
Normalt ændres modellens vægte ikke. Applikationen genfinder oplysninger og føjer dem til input. Det kan ligne læring for brugeren, men den tekniske mekanisme er lagring og genbrug.
Skal vi gemme hele samtalen?
Kun hvis det har et begrundet formål. Ofte er en afgrænset opgavestatus eller en reference til en godkendt kilde mere nyttig og lettere at vedligeholde end alle beskeder.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.
- LangChain: Memory overview ↗Hukommelsens rækkevidde inden for og mellem samtaler.
- LangGraph: Persistence ↗Vedvarende checkpoints og begrænsninger ved hukommelse i RAM.