Hvad betyder Adgangskontrol i AI?
Adgangskontrol afgør, hvilke oplysninger og funktioner en bruger eller tjeneste må benytte. I en AI-løsning skal den gælde både for dokumenter, genererede svar og de værktøjer, assistenten kan kalde. Et login beviser en identitet, men fortæller ikke alene, hvilke kundesager eller handlinger identiteten har adgang til.
En instruktion til modellen om ikke at vise fortrolige oplysninger er ikke tilstrækkelig adgangskontrol. Hvis modellen allerede har fået dokumentet, er den tekniske grænse passeret. Rettigheder skal håndhæves af applikationen og datalaget, før retrieval eller handling udføres.
Det er særligt vigtigt i løsninger med flere kunder, afdelinger eller roller. En bruger kan have adgang til et generelt produktarkiv, men ikke en anden kundes kontrakt. Systemet skal kunne bevare denne forskel, selv når en søgning formuleres bredt eller gennem en samtale med tidligere kontekst.
Filtrér kilder med en betroet brugeridentitet
Bind forespørgslen til den autentificerede bruger og den relevante organisation på serveren. Lad ikke et modelgenereret kundenummer eller et skjult formularfelt være eneste grundlag for adgang. Dokumenternes adgangsoplysninger skal følge med ind i søgeindekset og opdateres, når rettigheder ændres. Kontrollér også caches: et svar beregnet til én bruger må ikke blive delt med en anden, der mangler adgang til de bagvedliggende kilder.
Kontrollér hvert værktøjskald
En agent kan foreslå en handling, men serveren skal afgøre, om brugeren må udføre den på den konkrete post. Læseadgang til en faktura er ikke ret til at refundere den. Brug tydelige, afgrænsede funktioner og valider både parametre og rettigheder. Følsomme handlinger kan kræve en særskilt godkendelse, der viser objekt, modtager og ændring. Log selve autorisationsbeslutningen uden unødvendigt at kopiere fortroligt indhold.
Et eksempel fra praksis
Illustrativt eksempel: En konsulentvirksomhed bygger en assistent på tværs af projektmapper. En medarbejder spørger efter prisniveauet i lignende projekter. Søgningen må kun bruge de mapper, medarbejderen har adgang til, selv om andre mapper har bedre tekstligt match. Teamet tester med to brugere fra forskellige kundeteams og et dokument, hvis adgang netop er fjernet. Testen kontrollerer både søgningen, svaret og en eventuel cache.
Typiske faldgruber
- At lade systemprompten være eneste beskyttelse af fortrolige kilder.
- At stole på et kunde-ID, som brugeren eller modellen selv indsender.
- At glemme rettigheder i cache, eksport og opdatering af søgeindeks.
Det skal I afklare
- Håndhæv bruger- og organisationsgrænser på serveren.
- Test både tilladte og afviste opslag med forskellige roller.
- Kontrollér hvert værktøjskald og ændringer i dokumentadgang.
Spørgsmål og svar
Er single sign-on nok?
Det hjælper med autentifikation og kontostyring. Systemet skal stadig afgøre, hvilke data og handlinger den identificerede bruger har adgang til.
Skal modellen kende alle adgangsregler?
Den kan få en forklaring på sine grænser, men den sikkerhedsmæssige håndhævelse skal ligge i applikation, værktøjer og datalag.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.
- OWASP: Authorization Cheat Sheet ↗Primærkilde gennemgået 7. september 2026.
- OWASP: Excessive Agency ↗Primærkilde gennemgået 7. september 2026.