Engineer / Support
Sikkerhed for AI-agenter i din virksomhed
Gennemgang af AI-agenters adgang: aftalt kortlægning, prioriterede fund, rettighedstest og dokumentation for kontrollen.
Få overblik over, hvad jeres AI-agenter kan nå, og styr adgangen. En agent med forbindelse til mail, dokumenter eller et API giver rettigheder og fejlmuligheder, der skal gennemgås. Vi kortlægger de aftalte systemer, vurderer risici, indfører godkendte sikkerhedsforanstaltninger og afprøver de begrænsede handlinger. I får adgangskortet, fundene og dokumentationen for kontrollen.
Kortlagt: hver agent, og hvad den kan nå
Vi kortlægger agenter inden for det aftalte omfang, både godkendte integrationer og andre forbindelser, som gennemgangen med jeres medarbejdere viser. Kortet beskriver legitimationsoplysninger, værktøjer og tilgængelige data for hver agent. I får kortet sammen med fundene, og vi aftaler ansvaret for opdatering ved overdragelsen. Gennemgangens omfang og huller fremgår udtrykkeligt.
Låst: hver agent med mindste privilegium
En agent får sin egen identitet og kun den adgang, dens opgave kræver — mindste privilegium: roller i stedet for delte konti (RBAC), kun læseadgang som udgangspunkt og skriveadgang kun gennem snævert afgrænsede værktøjer med loft over, hvor ofte og hvor meget. Hemmeligheder deles op pr. agent og pr. vært, indsættes aldrig i en prompt og roteres uden en kodeændring. Ekstern tekst, en agent læser — en e-mail, en webside eller et dokument — behandles som data, der ikke er tillid til. Værktøjernes rettigheder og valideringskontroller håndhæver de aftalte grænser; en besked med »ignorer dine regler« er ikke en tilladelse til at udføre en handling. Kontrollerne er fail-closed: kan et tjek ikke køre, bliver handlingen afvist.
Registreret: hvad den gjorde, og for hvem
Hvert værktøjskald logges med den person, det blev foretaget på vegne af, hvad agenten blev bedt om, hvad den rørte ved, og hvad der kom tilbage, og loggen gemmes et sted, hvor agenten ikke selv kan ændre den. Alarmregler aftales for systemet. De kan omfatte en pludselig stigning i antallet af læsninger, brug uden for de forventede tider eller adgang til data uden for agentens aftalte dataområde. Går noget alligevel galt, er det loggen, der gør en sikkerhedshændelse til en tidslinje i stedet for et gæt.
En lås skal afprøves, ikke tages for givet
Vi tester adgangskontroller inden for opgavens omfang og dokumenterer, hvad der blev forsøgt, afvist eller kræver mere arbejde. Test kan omfatte afviste værktøjskald, ratebegrænsning, adskilte legitimationsoplysninger og forsøg på prompt-injektion. Resultatet er dokumentation og gentagelige kontroller med beskrevne grænser. Hændelseshåndtering og rotation af legitimationsoplysninger aftales særskilt, når et eksisterende læk skal begrænses.
Arbejdet, der ligger bag
Vi har udført dette arbejde på servere, i identitetssystemer og på platforme. Vi skrev 1.000 RBAC-regler til Linux- og databaseservere, ledede adgangsstyringen i M365 og single sign-on og kørte et løbende sikkerhedsscanningsprogram med 21 skriftlige revisioner. Vi adskilte alle driftshemmeligheder pr. vært, tilføjede et preflight-tjek af hemmeligheder på ét sekund, fandt tre låse på døren, og ingen af dem var låst, og beviste, at indtrængningsblokeringen virker ved hver kørsel. Vi byggede fail-closed rate limiting mod misbrug og skrev en afgrænsningsregel efter et læk. Hvordan vi selv holder orden i eget hus, kan du læse under sådan arbejder vi sikkert.
Sådan forløber et samarbejde
Det begynder med ren læseadgang. Vi kortlægger agenterne inden for det aftalte omfang, deres adgangsoplysninger og det, de giver adgang til, og giver dig fundene sorteret efter risiko, hvert med sin begrundelse og sin rettelse. Derefter laves rettelserne i din konfiguration og dit repository, gennem dit review og med tjek, der slår fejl, når de kontrollerede adgangsveje giver adgang ud over de aftalte rettigheder. Du beholder kortet, loggen og testene — den mappe, du rækker en revisor eller et forsikringsselskab — og de data, dine agenter læser, kan adgangsstyres på samme måde. Det købes som resten af vores arbejde, på vilkårene i hvad det koster.
Har agenter allerede nøgler til dine systemer, så fortæl os, hvilke.