Hvad betyder Sandboxing af AI-agenter?
Sandboxing betyder, at kode eller værktøjer kører i et afgrænset miljø. For en AI-agent kan det være et arbejdsområde, hvor den må ændre udvalgte filer og kun kontakte bestemte systemer. Formålet er at begrænse virkningen af fejl og uønskede handlinger.
En sandbox gør ikke alle resultater korrekte, og den erstatter ikke rettighedskontrol i eksterne tjenester. Den beskytter en bestemt udførelsesgrænse. Derfor skal man vide, hvilke ressourcer der er isoleret, og hvilke handlinger der stadig kan påvirke noget uden for miljøet.
Filer og netværk kræver hver sin kontrol
Et skrivebeskyttet filsystem kan forhindre ændringer i følsomme mapper, men det forhindrer ikke i sig selv, at læsbare data sendes ud gennem netværket. Omvendt beskytter netværksbegrænsning ikke automatisk de lokale filer. En praktisk sandbox vurderer begge dele og giver kun de adgange, som den konkrete opgave behøver.
Andre relevante grænser er procesrettigheder, hukommelse, køretid og hvilke hemmeligheder der er tilgængelige. En isoleret testopgave behøver normalt ikke produktionsnøgler. De oplysninger, der føres ind i miljøet, bør være lige så afgrænsede som de muligheder, der gives for at handle.
Kontrollér det, der forlader miljøet
En agent kan producere et dokument eller en kodeændring inde i en sandbox. Før resultatet bruges udenfor, bør det kontrolleres mod opgaven og relevante krav. Ved kode kan det være tests og review; ved dataudtræk kan det være validering mod originalen. Skeln mellem at give adgang til en bestemt fil og at åbne hele maskinen. Hvis en opgave blokeres, bør næste adgang være så konkret, at dens betydning kan forstås og vurderes.
Et eksempel fra praksis
En kodeagent skal rette en beregning i en kopi af et projekt. Den får skriveadgang til kopien og læseadgang til de nødvendige testdata. Den har ikke adgang til produktionsdatabasen eller private mapper. Agenten kan lave ændringen og køre lokale tests. En medarbejder gennemgår resultatet, før det flyttes videre i den normale releaseproces. En test af miljøet bør bekræfte, at forsøg på at læse en uvedkommende mappe eller kontakte et ikke tilladt endpoint bliver afvist.
Typiske faldgruber
- At kalde en almindelig mappe for en sandbox uden teknisk isolation.
- At give brede netværksrettigheder til et miljø med følsomme læsbare data.
- At antage, at et isoleret genereret resultat derfor er klar til produktion.
Det skal I afklare
- Angiv præcis hvilke filer, endpoints og processer opgaven kræver.
- Hold produktionshemmeligheder ude, når de ikke er nødvendige.
- Test grænserne og gennemgå artefakter før videre anvendelse.
Spørgsmål og svar
Er en container altid en tilstrækkelig sandbox?
Ikke automatisk. Det afhænger blandt andet af rettigheder, mounts, netværk og adgang til værtsmiljøet. Betegnelsen siger mindre end den faktiske konfiguration og dens test.
Kan en agent stadig bruge internet i en sandbox?
Ja, hvis miljøet tillader det. Adgangen kan begrænses til udvalgte domæner eller tjenester. Omfanget bør følge opgaven og de data, agenten kan læse.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.
- Anthropic: Sandboxing ↗Adskilt kontrol af filsystem og netværksadgang.
- OWASP: API Security Project ↗Adgangskontrol og sikkerhed ved integrationer.