Hvad betyder Generativ AI?
Generativ AI skaber indhold frem for alene at vælge mellem faste kategorier eller beregne et enkelt tal. En model kan eksempelvis skrive et udkast, danne et billede eller omskrive en tekst. Resultatet bygger på modellens lærte mønstre og de instruktioner eller materialer, den modtager.
At indholdet er nyt, betyder ikke, at alle oplysninger er korrekte, originale i juridisk forstand eller egnede til offentliggørelse. En velformuleret forklaring kan indeholde antagelser og opdigtede detaljer. Derfor skal kvaliteten vurderes i forhold til den konkrete anvendelse.
Generativ AI er en teknologi inde i en arbejdsgang. Adgang til virksomhedens materiale, afgrænsning af opgaven, godkendelse og håndtering af fejl er separate dele af løsningen. En model bliver ikke automatisk en sikker kundeserviceløsning, fordi den kan skrive et venligt svar.
Input og kontekst former resultatet
En instruktion beskriver opgaven, mens kontekst giver det materiale, modellen skal arbejde med. Det kan være en produktbeskrivelse, et godkendt notat eller oplysninger hentet fra en vidensbase. Jo mere afgørende en oplysning er, desto vigtigere er det, at den kan spores til en relevant kilde.
Et klart outputformat hjælper med at gøre resultatet brugbart, men et korrekt format beviser ikke, at indholdet er sandt. Et system bør kunne markere manglende grundlag og sende tvivlstilfælde videre.
Begynd med et afgrænset udkast
En god første anvendelse har et tydeligt input, et genkendeligt resultat og en person, der kan vurdere kvaliteten. Det kan være at omforme et godkendt mødenotat til en intern opsummering eller skabe variationer af allerede faktatjekket produkttekst.
Aftal, hvilke oplysninger der må indgå, og hvornår et menneske skal godkende resultatet. Registrér ændringer, som korrekturlæseren foretager, så testen kan vise, om teknologien faktisk sparer arbejde uden at sænke kvaliteten.
Et eksempel fra praksis
Forestil jer en webshop, der vil gøre leverandørdata mere læsevenlige. Modellen får kun godkendte specifikationer og må omskrive forklaringen, men ikke tilføje materialer, certifikater eller egenskaber, som kilden ikke angiver.
En medarbejder kontrollerer en afgrænset serie produkter, herunder varer med mangelfulde oplysninger. Evalueringen tæller faktuelle tilføjelser og nødvendige rettelser, ikke kun hvor hurtigt teksten bliver genereret. Hvis oplysninger mangler, skal resultatet gøre manglen synlig frem for at udfylde den med et sandsynligt gæt.
Typiske faldgruber
- Flydende sprog kan få et udokumenteret udsagn til at virke sikkert.
- En instruktion om at være korrekt erstatter ikke kildekontrol og evaluering.
- Automatisk publicering kan forstørre små fejl, hvis ingen validerer indhold og format.
Det skal I afklare
- Hvilket godkendt materiale må modellen bruge som grundlag?
- Hvilke fejl er uacceptable, og hvordan bliver de opdaget?
- Hvem godkender resultatet, og hvordan måles behovet for rettelser?
Spørgsmål og svar
Er generativ AI det samme som ChatGPT?
Nej. ChatGPT er et produkt, som anvender generative modeller. Generativ AI er en bredere kategori, der også omfatter andre tekstmodeller og systemer til blandt andet billeder og lyd.
Kan generativ AI bruge vores egne dokumenter?
Ja, en løsning kan få dokumenter som kontekst eller hente relevante uddrag gennem retrieval. Det ændrer ikke automatisk modellens vægte og kræver stadig kontrol af adgang, kilder og svar.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.
- Google: Types of machine learning ↗Generativ AI som en af maskinlæringens anvendelser.
- NIST: AI Risk Management Framework ↗Rammer og særskilt profil for håndtering af generativ AI-risiko.