Hvad betyder Struktureret output?
Struktureret output gør et AI-svar lettere at bruge i en arbejdsgang. I stedet for en fri tekst kan systemet eksempelvis returnere en sagstype, en liste over manglende oplysninger og henvisninger til relevante dokumenter. Felterne har en aftalt betydning og kan have bestemte datatyper.
At bede om JSON i en prompt er ikke det samme som teknisk håndhævelse af et skema. Nogle modeller og platforme understøtter begrænset generering eller andre mekanismer, der hjælper med at overholde strukturen. Støtten afhænger af den konkrete løsning og de valgte skemaregler.
Et gyldigt format garanterer ikke korrekte oplysninger. Et opdigtet ordrenummer kan stadig være en gyldig tekststreng. Derfor skal formatkontrol følges af relevante kontroller af betydning, kildegrundlag og adgang til efterfølgende handlinger.
Kontrollér både struktur og forretningsregler
Strukturen kan kræve, at en sag har en kategori fra en bestemt liste og et felt til en forklaring. En separat regel kan kontrollere, om et fundet ordrenummer faktisk findes i den aktuelle kundes sag. Disse kontroller løser forskellige problemer.
Giv også ukendte værdier en tydelig repræsentation. Hvis alle felter kræver et svar, selv når kilden mangler information, kan systemet presse modellen til at vælge en misvisende værdi. Et felt til status eller manglende oplysninger kan gøre resultatet ærligere og lettere at behandle.
Et manglende resultat er også en tilstand
Applikationen skal håndtere afbrudte svar, afvisninger, valideringsfejl og tekniske problemer. Den må ikke behandle en tom værdi som et godkendt resultat eller fortsætte med data fra en tidligere sag.
Beslut, hvornår et nyt forsøg er relevant, og hvornår sagen skal til en medarbejder. Et gentaget kald kan hjælpe ved et formatproblem, men det skaber ikke manglende dokumentation. Registrér årsagen til fejlen, så teamet kan skelne mellem et skemaproblem og et utilstrækkeligt input.
Et eksempel fra praksis
En serviceafdeling vil sortere henvendelser, før en medarbejder læser dem. Outputtet indeholder kategori, kendt produktmodel, manglende oplysninger og et kort kildeuddrag. Produktmodellen kan være ukendt, hvis mailen ikke angiver den.
Programmet kontrollerer, at kategorien er tilladt, og at en angivet produktmodel findes i kataloget. Henvendelser med ukendte modeller går til afklaring. Der oprettes ingen bestilling eller kundebesked alene på baggrund af klassificeringen. Teamet tester især mails, hvor kunden nævner flere forskellige produkter.
Typiske faldgruber
- Gyldig JSON bliver forvekslet med faktuelt korrekte data.
- Manglende oplysninger tvinges ind i en vilkårlig kategori.
- Applikationen fortsætter, selv om svaret blev afbrudt eller afvist.
Det skal I afklare
- Definér felternes betydning og tilladte ukendte tilstande.
- Validér format og relevante forretningsregler hver for sig.
- Afprøv ufuldstændige input og en kontrolleret fejlsti.
Spørgsmål og svar
Er struktureret output altid JSON?
Nej. Begrebet dækker aftalte maskinlæsbare former. JSON er almindeligt, men det afgørende er, at format og betydning er defineret og kontrolleret.
Kan data bruges automatisk bagefter?
Det afhænger af handlingen og kontrollerne. Et klassifikationsforslag kan være lav risiko, mens ændringer af aftaler eller betalinger kræver stærkere validering og passende godkendelse.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.
- LangChain: Structured output ↗Skemabaserede svar, udbyderstøtte og valideringsfejl.
- JSON Schema: The basics ↗Skemaer beskriver og validerer datastruktur.