Hvad betyder Afgrænsere i prompts?
Afgrænsere er synlige markeringer omkring dele af en prompt. Det kan være beskrivende XML-lignende tags, tydelige overskrifter eller andre konsekvente markører. De hjælper med at vise, hvad der er brugerens opgave, og hvad der er tekst, modellen skal behandle.
En prompt med flere dokumenter bliver lettere at læse, når hvert dokument har en begyndelse, en afslutning og oplysninger om sin kilde. Det gælder både for modellen og for den udvikler, der skal undersøge et fejlbehæftet svar.
Markeringerne er dog stadig tekst. De opretter ikke en teknisk sikkerhedsgrænse og giver ikke eksternt materiale en bestemt autoritet alene gennem et tag. Hvis et dokument indeholder falske afslutningsmarkører eller instruktioner, skal systemet stadig håndtere indholdet som data fra den pågældende kilde.
Gør indholdets funktion synlig
Brug navne, der forklarer formålet, eksempelvis opgave, godkendte fakta og kundens besked. Hvis flere kilder indgår, kan hver kilde have et stabilt ID og en dato. Det gør efterfølgende henvisninger lettere at kontrollere.
Vælg én konsekvent struktur og hold den enkel. Tilfældig blanding af mange markører skaber mere støj end klarhed. Selve markørens stavemåde er mindre vigtig end, at den bruges entydigt og understøtter instruktionen om, hvordan materialet skal behandles.
Lad aldrig dokumenttekst ændre tilladelser
En ekstern tekst kan indeholde de samme markører, som applikationen bruger. Ved teknisk sammensætning af prompts bør håndteringen af sådanne tegn være bevidst, så indhold ikke utilsigtet fremstår som en ny del af instruktionen.
Uanset markeringerne skal dataadgang og værktøjstilladelser håndhæves uden for teksten. En afgrænser kan gøre hensigten tydelig, men den kan ikke sikre, at en model aldrig følger en ondsindet instruktion. Test derfor både normal dokumentstruktur og materiale, der forsøger at ligne en autoritativ besked.
Et eksempel fra praksis
En rådgivningsvirksomhed sammenligner to versioner af en leverancebeskrivelse. Prompten indeholder en opgaveblok og to dokumentblokke med ID, versionsdato og indhold. Resultatet skal pege på ændringer og angive, hvilken version de kommer fra.
Et testdokument indeholder overskriften “instruktioner til assistenten” som en del af kundens materiale. Systemet skal fortsat behandle den som dokumenttekst. Medarbejderen kontrollerer, at sammenligningen henviser til de rigtige versioner, og at modellens arbejdsopgave ikke blev ændret af overskriften.
Typiske faldgruber
- Tags bliver omtalt som en sikker barriere mod prompt injection.
- Dokumentets egne markører forveksles med applikationens struktur.
- Kilder afgrænses, men mangler ID eller version til senere kontrol.
Det skal I afklare
- Adskil opgave, eksempler og eksternt materiale konsekvent.
- Bevar kilde-ID og relevante versionsoplysninger.
- Afprøv indhold, der efterligner promptens markører eller instruktioner.
Spørgsmål og svar
Skal jeg altid bruge XML?
Nej. XML-lignende tags er én mulighed. Tydelige overskrifter kan være nok til en enkel opgave. Vælg struktur efter kompleksiteten og test den valgte model.
Kan afgrænsere erstatte beskedroller?
Nej. Platformens egentlige beskedroller og tekstmarkeringer er forskellige ting. Afgrænsere kan organisere indhold inden for en besked, men ændrer ikke automatisk dens autoritet.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.
- Anthropic: Prompting best practices ↗Beskrivende tags som struktur for instruktioner, kontekst og input.
- OWASP: LLM Prompt Injection Prevention ↗Adskillelse af instruktioner og data som én del af flere forsvar.