Hvad betyder Human in the loop?
Human in the loop betyder, at et menneske er en aktiv del af et AI-forløbs beslutning. Systemet kan forberede et resultat, men et bestemt næste trin afhænger af en godkendelse, rettelse eller afvisning. Det kan eksempelvis være at frigive et svar, rette et dokumentudtræk eller godkende en ændring i et system.
En godkendelsesknap er ikke i sig selv tilstrækkelig kontrol. Personen skal kunne forstå forslaget, se de væsentlige kilder og have reel mulighed for at ændre eller stoppe det. Ellers risikerer kontrollen at blive en rutinemæssig klikøvelse.
Godkend det konkrete forslag
Et kontrolpunkt bør vise den præcise handling: modtager, indhold, relevante beløb, datagrundlag og forventet virkning. Godkendelsen skal knyttes til denne version. Hvis agenten efterfølgende ændrer væsentlige oplysninger, er den gamle godkendelse ikke nødvendigvis dækkende.
Teknisk kan forløbet sættes på pause med gemt tilstand og fortsætte efter en beslutning. Det er vigtigt at håndtere ventetid og afvisning eksplicit. Et manglende svar må ikke automatisk blive fortolket som en godkendelse, medmindre en velbegrundet, aftalt proces faktisk tillader den specifikke fortsættelse.
Gør kontrollen mulig i hverdagen
Vælg kontrolpunkter efter fejlens betydning og reviewerens faglige mulighed for at vurdere den. Et team kan kontrollere alle tilbudsudkast, men kun udvalgte interne kategoriseringer. Mål, hvor ofte forslag bliver ændret, hvorfor de afvises, og hvor længe køen venter. Disse data viser, om AI'en hjælper eller blot flytter arbejdet. Test desuden, at handlingen teknisk ikke kan udføres uden den nødvendige beslutning.
Et eksempel fra praksis
En leverandør lader AI udtrække varelinjer fra indkøbsbilag. Medarbejderen ser hver usikker linje ved siden af originalens relevante udsnit og kan rette varenummer eller antal. Først den godkendte version må føres videre til ordresystemet. En test ændrer bilaget efter første udtræk og undersøger, om den tidligere godkendelse bliver markeret som forældet. Målet er et kontrolleret dataflow, ikke bare færre sekunder foran skærmen.
Typiske faldgruber
- At skjule kilderne og kræve godkendelse af et resultat, personen ikke kan efterprøve.
- At lade en godkendelse gælde også efter væsentlige ændringer.
- At gøre afvisning så besværlig, at medarbejderen vælger godkendelse for at komme videre.
Det skal I afklare
- Angiv præcis hvilke handlinger der kræver menneskelig beslutning.
- Vis kilde, version og virkning i samme review.
- Test afvisning, udløb og ændringer efter godkendelse.
Spørgsmål og svar
Skal et menneske godkende alle AI-svar?
Det afhænger af anvendelsen og fejlkonsekvensen. Human in the loop kan begrænses til bestemte handlinger, usikre tilfælde eller resultater med større betydning.
Kan godkendelsen ligge efter handlingen?
Så er det en efterkontrol, ikke et stop før den pågældende handling. De to kontrolformer kan kombineres, men bør beskrives særskilt, fordi de beskytter mod forskellige fejl.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.
- LangChain: Human-in-the-loop ↗Godkendelse, redigering eller afvisning før værktøjskald.
- LangGraph: Interrupts ↗Pause, gemt tilstand og fortsættelse med menneskeligt input.