Hvad betyder Alignment?
AI alignment handler om forholdet mellem det mål, mennesker ønsker, og den adfærd et system faktisk udviser. En instruktion om at øge salget er eksempelvis utilstrækkelig, hvis systemet samtidig skal respektere kontaktregler, kundernes ønsker og virksomhedens kvalitetspolitik.
Træning med feedback kan påvirke modellens adfærd. Systemdesign, tests, adgangsgrænser og organisatorisk ansvar er også nødvendige i en konkret anvendelse. En model, der er trænet til at være hjælpsom, er ikke dermed garanteret korrekt, sikker eller umulig at misbruge.
I praksis bør brede værdier oversættes til kontrollerbare krav: hvad må systemet gøre, hvad skal godkendes, og hvilke resultater er uacceptable? Der kan være reelle afvejninger og uenighed. Alignment er derfor et fortsat forsknings- og udviklingsarbejde, ikke en certificering af et færdigt produkt.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.