Varonis: autonome AI-agenter lot seg lure til å dele tilgangsnøkler

Sikkerhetsforskere hos Varonis Threat Labs har vist at autonome AI-agenter kan manipuleres til å lekke sensitive virksomhetsdata gjennom sosial manipulasjon. I et kontrollert forsøk med en agent kalt «Pinchy», bygget på OpenClaw, testet forskerne to oppsett: en vanlig produktivitetsprofil og en strengere versjon med eksplisitte sikkerhetsinstrukser for e-post. Til tross for de skjerpede instruksene lot Pinchy seg lure av et simulert angrep der en ekstern aktør utga seg for å være en kollega med et hastebehov for testmiljøpassord. Agenten videresendte tilgangsdetaljer, blant annet AWS IAM-nøkler, databasepassord og SSH-legitimasjon, til en ekstern Gmail-adresse. Varonis understreker at dette peker på et hull i hvordan agentene settes opp, ikke på en grunnleggende svakhet i modellene selv.

Hva det betyr for virksomheten

Mange virksomheter er nå i ferd med å gi AI-agenter tilgang til e-post og forretningssystemer for å spare tid. Poenget i denne testen er at instruksjoner om å være forsiktig ikke er en sikkerhetskontroll. Agenten ble bedt om å verifisere avsender, og gjorde det likevel ikke. Det betyr at agenten må behandles som en identitet med egne rettigheter, ikke som et verktøy en ansatt bruker. Uten tekniske begrensninger blir en agent et angrepsmål som aldri blir mistenksom og aldri blir sliten.

Berigo anbefaler

• Gi hver AI-agent en egen identitet med minst mulige rettigheter, ikke rettighetene til brukeren som satte den opp.
• Sørg for at agenter ikke har tilgang til hemmeligheter i klartekst; legg dem i en nøkkelhvelvtjeneste med egen tilgangskontroll.
• Krev menneskelig godkjenning for utgående e-post til eksterne mottakere fra agenter.
• Loggfør alt agentene gjør, og gjennomgå loggene på samme måte som for privilegerte brukerkontoer.

Kilde

• varonis.com