Hvad betyder Human on the loop?
Human on the loop er en kontrolform, hvor systemet arbejder inden for fastlagte grænser, mens en person eller et team fører tilsyn. Der kræves ikke nødvendigvis en godkendelse før hver handling, men der skal være mulighed for at opdage afvigelser og stoppe eller ændre forløbet.
Det er forskelligt fra human in the loop, hvor en menneskelig beslutning er et obligatorisk trin før en bestemt handling. Betegnelserne er arkitekturbeskrivelser, ikke i sig selv bevis på, at tilsynet er tilstrækkeligt til en bestemt anvendelse.
Tilsyn kræver noget at reagere på
Definér signaler, som viser, at processen bevæger sig uden for det acceptable. Det kan være voksende fejlrate, mange gentagne kald, uventede datatyper eller en stigning i sager, der ikke kan afsluttes. Et dashboard skal hjælpe en ansvarlig med at vælge en handling, ikke blot vise aktivitetsgrafer.
Tilsynet skal passe til processens tempo. Hvis systemet kan foretage mange uigenkaldelige ændringer på få sekunder, vil en medarbejder måske ikke nå at reagere. I sådanne situationer kan en forebyggende godkendelse, teknisk grænse eller et langsommere, opdelt forløb være mere passende.
Aftal hvem der kan stoppe hvad
Beskriv ansvar, varsling, stopmulighed og genoptagelse. Et stop skal have en forståelig effekt: stopper nye opgaver, afbryder igangværende opgaver eller blokerer bestemte værktøjer? Efter et stop skal teamet kunne se, hvilke handlinger der allerede er udført. Øv processen med en simuleret fejl, så personen ikke først lærer stopfunktionen at kende under en rigtig hændelse. Gem begrundelsen for genstart og de ændringer, der gjorde den forsvarlig.
Et eksempel fra praksis
Et supportteam lader AI foreslå kategorier på indgående sager. Forslagene kan løbe automatisk, fordi medarbejderne stadig behandler selve kundesvaret. En ansvarlig følger en stikprøve og andelen af manuelle omklassificeringer. Hvis en ny produkttype bliver fejlplaceret, kan den automatiske kategorisering sættes på pause for denne type. Teamet undersøger eksemplerne og tester den rettede regel, før kategorien åbnes igen.
Typiske faldgruber
- At kalde en log for menneskeligt tilsyn, selv om ingen har ansvar for at læse den.
- At lade alarmer komme senere, end en person realistisk kan begrænse fejlen.
- At have en stopknap uden at kende dens virkning på igangværende opgaver.
Det skal I afklare
- Udpeg en ansvarlig og relevante, handlingsanvisende signaler.
- Mål tiden fra fejl opstår, til den opdages og begrænses.
- Afprøv stop og genoptagelse med kendte testopgaver.
Spørgsmål og svar
Er overvågning nok til følsomme beslutninger?
Det kan man ikke afgøre ud fra betegnelsen alene. Fejlkonsekvens, reaktionstid, rettigheder og de konkrete krav til anvendelsen afgør, om der også skal ligge kontrol før handlingen.
Kan in the loop og on the loop kombineres?
Ja. Et system kan køre rutineopgaver under tilsyn og samtidig kræve en konkret godkendelse ved bestemte ændringer eller usikre tilfælde.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.
- NIST: AI Risk Management Framework ↗Rollefordeling, menneskeligt tilsyn og risikobaseret kontrol.
- Anthropic: Evals for AI agents ↗Skellet mellem et forløbs tekst og det faktisk opnåede resultat.