Hvad betyder Diskriminativ AI?
En diskriminativ model er rettet mod at skelne mellem udfald eller forudsige et mål ud fra input. I en klassifikationsopgave lærer modellen eksempelvis en grænse mellem kategorier. Den skal afgøre, hvilket udfald der passer til observationen, frem for at skabe et nyt billede eller en længere tekst.
Begrebet diskriminativ beskriver her en teknisk tilgang; det betyder ikke i sig selv, at modellen behandler mennesker urimeligt. Bias og ulige fejlfordeling kan dog forekomme i både diskriminative og generative systemer og skal undersøges ud fra anvendelsen.
Forskellen mellem generativ og diskriminativ modellering handler om, hvad der modelleres. I klassisk statistik kan en generativ tilgang beskrive, hvordan data og kategorier hænger sammen, mens en diskriminativ tilgang fokuserer på at forudsige kategorien ud fra data. Moderne produkter kan kombinere flere tilgange i samme arbejdsgang.
Et klart beslutningsrum gør opgaven testbar
Begynd med at definere de mulige udfald og grænserne mellem dem. Hvis to afdelinger bruger forskellige kriterier for en reklamation, kan træningsmaterialet blive selvmodsigende. Et felt med 'andet' eller en mulighed for at afstå kan være nødvendigt, når input ikke passer til de kendte kategorier.
En modelscore kan bruges til at prioritere eller sende usikre sager til kontrol. Scoren bør ikke uden videre kaldes en pålidelig sandsynlighed. Dens fortolkning afhænger blandt andet af modellen og den måde, den er evalueret eller kalibreret på.
Brug en model, når den hjælper beslutningen
En diskriminativ model kan være relevant, når virksomheden har mange lignende input og et afgrænset udfald. Det kan være sortering af henvendelser, efterspørgselsprognoser eller markering af mulige fejl. En generativ model kan også løse klassifikationsopgaver, så valget er ikke givet af produktets navn.
Sammenlign kvalitet, pris og svartid på egne eksempler. Det mest fleksible system kan være unødigt komplekst, hvis en mindre model eller nogle få regler løser opgaven stabilt.
Et eksempel fra praksis
Et illustrativt kundeserviceforsøg klassificerer indkommende beskeder som levering, retur eller produktspørgsmål. En medarbejder har først beskrevet kategorierne og vurderet et repræsentativt udsnit af gamle henvendelser.
Modellen foreslår en kø, men sender blandede eller usikre beskeder til manuel vurdering. Testen måler især de fejl, der forsinker en tidsfølsom sag. Hvis en besked indeholder både retur og ændret leveringsadresse, skal processen beskrive, om den må have flere kategorier. Ellers bliver et organisatorisk spørgsmål fejlagtigt behandlet som en modelfejl.
Typiske faldgruber
- Uklare kategorier giver et uklart facit, uanset hvor avanceret modellen er.
- En høj samlet korrekthed kan skjule mange fejl i en sjælden, vigtig kategori.
- En modelscore er ikke automatisk en kalibreret sandsynlighed.
Det skal I afklare
- Er kategorierne defineret, så flere medarbejdere kan anvende dem ens?
- Hvad skal systemet gøre med input uden for de kendte kategorier?
- Hvilke typer fejl koster mest i den efterfølgende arbejdsgang?
Spørgsmål og svar
Er diskriminativ AI altid bedre til klassifikation?
Nej. Det afhænger af data, opgave og model. En generativ model kan også klassificere. En sammenligning på repræsentative eksempler er mere nyttig end en generel rangorden.
Kan samme løsning bruge begge tilgange?
Ja. En model kan sortere en besked, hvorefter en anden laver et svarudkast. Begge trin og den samlede arbejdsgang skal vurderes.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.
- Google: Machine Learning Glossary ↗Begreber om diskriminative og generative modeller; teknisk terminologi.
- Google: Classification ↗Beslutningsgrænser, tærskler og evaluering af klassifikation.