Hvad betyder Context engineering?
Context engineering retter opmærksomheden mod hele det grundlag, modellen arbejder med. Det omfatter den aktuelle opgave, relevante dokumentuddrag, samtalehistorik, oplysninger fra systemer og beskrivelser af tilgængelige værktøjer. Promptens ordlyd er kun én del af dette grundlag.
En model kan være dygtig og alligevel løse opgaven forkert, hvis den mangler den afgørende undtagelse eller ser oplysninger fra en forkert kunde. Omvendt kan for meget materiale gøre det sværere at finde den relevante detalje og øge behandlingstiden.
Opgaven er derfor at sammensætte et tilstrækkeligt, relevant og tilladt arbejdsgrundlag ved hvert trin. Det kræver valg i både produktdesign og kode. Man kan ikke løse alle problemer ved blot at indsætte en større tekstmængde i et længere kontekstvindue.
Skeln mellem lagret viden og aktuelt input
At et dokument findes i virksomhedens system betyder ikke, at modellen har set det. Det aktuelle modelkald modtager kun det materiale, applikationen faktisk sender eller gør tilgængeligt gennem et værktøj.
Dokumentér derfor, hvordan oplysninger vælges. Det kan være en søgning med adgangsfiltre, et direkte opslag på et ordrenummer eller et kort resumé af tidligere dialog. Kilde, tidspunkt og gyldighed er nyttige oplysninger, når modellen skal skelne mellem flere versioner af samme forhold.
Konteksten skal følge opgavens tilstand
En længere arbejdsgang skifter behov. Før en opgave er afklaret, kan et bredt overblik være relevant. Når en bestemt sag er identificeret, er få præcise oplysninger ofte mere nyttige. Tidligere fejlspor behøver ikke blive gentaget i alle senere kald.
Komprimering og udvælgelse skal kontrolleres. En bortredigeret begrænsning kan ændre resultatet, selv om resuméet lyder dækkende. Bevar derfor de nødvendige beslutninger, åbne spørgsmål og henvisninger, som gør det muligt at vende tilbage til originalmaterialet.
Et eksempel fra praksis
Et udlejningsteam bruger en assistent til spørgsmål om reservationer. Den generelle vejledning beskriver normale vilkår, mens den konkrete reservation kan indeholde en særlig aftale. Systemet finder først reservationen gennem en kontrolleret identifikation.
Derefter modtager modellen den relevante aftale og kun de vejledningsafsnit, der passer til spørgsmålet. En tidligere reservation fra samme kunde bliver ikke automatisk betragtet som gældende. I testen indgår to næsten ens reservationer med forskellige afleveringsvilkår, så teamet kan se, om oplysningerne holdes adskilt.
Typiske faldgruber
- Al tilgængelig information sendes med, uanset relevans eller adgang.
- Et resumé fjerner en undtagelse, som senere er afgørende.
- Systemet kan ikke vise, hvilke dokumentversioner et svar byggede på.
Det skal I afklare
- Kortlæg input, kilder og værktøjer ved hvert væsentligt trin.
- Afprøv forveksling mellem kunder, versioner og tidsperioder.
- Bevar sporbarhed til de oplysninger, der påvirkede resultatet.
Spørgsmål og svar
Er det bare et nyt navn for prompt engineering?
Begreberne overlapper. Context engineering omfatter også, hvordan applikationen vælger og vedligeholder information omkring prompten, herunder søgning, tilstand og værktøjer.
Kræver det altid en vektordatabase?
Nej. Et præcist opslag i et eksisterende system kan være tilstrækkeligt. Vælg datatilgangen efter opgaven og de oplysninger, der skal bruges.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.
- Anthropic: Effective context engineering for AI agents ↗Udvælgelse og vedligeholdelse af kontekst i længere opgaver.
- LangChain: Context engineering ↗Modelkontekst, værktøjskontekst og tilstand gennem agentforløbet.