Hvad betyder Jailbreak?
Et jailbreak er et forsøg på at få en AI-model til at omgå sine sikkerhedsregler. Det kan overlappe med prompt injection, men begreberne har forskelligt fokus: jailbreak retter sig ofte mod modellens svargrænser, mens injection også kan forsøge at styre en hel applikations handlinger.
Modstandsdygtighed afhænger af model, opsætning og angreb. Man bør derfor ikke antage, at et bestemt sprog, en bestemt formulering eller en enkelt systeminstruktion afgør sikkerheden. Et produkt kan også have beskyttelser uden for selve modellen.
For en offentlig assistent bør test omfatte både uønskede svar og forsøg på at få adgang til data eller handlinger. Aftal, hvem der kan lukke en funktion ned, hvordan hændelser undersøges, og hvordan en rettelse testes før genåbning. Gem kun de logoplysninger, der er nødvendige til det aftalte formål.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.