En falsk hemmelighet får angriperens KI-agent til å stoppe seg selv
Sikkerhetsselskapet Tracebit publiserte i juli 2026 et arbeidsnotat om det de kaller kontekstbomber. Ideen er å legge en kort tekst inn som innholdet i en lokkeressurs, for eksempel som verdien av en falsk hemmelighet i AWS Secrets Manager. Leser en angripende KI-agent den, treffer den innhold som utløser modellens egne sikkerhetssperrer, og økten stanser. I forsøkene falt andelen kjøringer der angriperen nådde full administratortilgang fra 57 til 5 prosent. Ars Technica omtalte arbeidet 13. juli 2026.
Hva som skjer teknisk
Grepet virker på to måter samtidig. Angriperens egen modell nekter å fortsette, og forsvareren får samtidig varsel om at lokkeressursen ble lest, slik lokkeressurser er ment å virke. Innholdet må skreddersys til modellen som skal stanses. Tracebit oppgir at innhold om biologiske våpen stanser de ledende vestlige modellene, mens politisk sensitivt innhold på kinesisk stanser modeller fra kinesiske leverandører. De to konkrete eksemplene i notatet er miltbrannsporer og Tank Man fra Den himmelske freds plass i 1989. Tracebit blandet dessuten det følsomme innholdet med vanlige grep fra promptinjeksjon, som hastemarkører og skilletegn, og oppgir at hvilket grep som virket best varierte fra modell til modell. Demonstrasjonen på nettsiden viser en agent som leser en falsk hemmelighet og får en feilmelding fra leverandøren om at innholdet innebærer risiko, hvorpå økten avsluttes.
Riggen er et bygget AWS-miljø på rundt 300 ressurser med ti angrepsveier, der agentene fikk rollen som røde lag med innledende tilgang gjennom en lavprivilegert nøkkel. Tallene bygger på fem modeller og 152 kjøringer, med én enkelt bombe i én lokkehemmelighet. Full kompromittering falt fra 36 til 1 prosent, andelen kjøringer som fullførte minst én angrepsvei fra 91 til 15 prosent, og antall fullførte angrepsveier per kjøring fra 1,53 til 0,16. Utslaget varierer kraftig mellom modellene: Claude Opus 4.8 gikk fra 93 til 0 prosent administratortilgang og Gemini 3.1 Pro fra 70 til 0, mens Kimi K2.6 gikk fra 27 til 11. Tracebit merker selv flere forbehold. Testoppsettet var ikke identisk for alle modellene, OpenAI-modeller er ikke testet i riggen, og modeller med fjernede sperrer er ikke undersøkt. Selskapet sier rett ut at teknikken ikke stopper KI-angripere fullstendig, og at et stanset angrep ikke er et lukket angrep. Merk også at Tracebit selger et produkt med denne funksjonen, og at virkningen hos kunder ennå ikke er målt. Kildene spriker litt på tallene: CSO Online oppgir 154 kjøringer og 54 prosent, mens Tracebits egne tall er 152 og 57.
Hva det betyr for deg som bruker lokkeressurser i AWS
Har du allerede lokkeressurser i miljøet ditt, er dette en innholdsendring og ikke et nytt verktøy. Du bytter ut verdien i en falsk hemmelighet med noe som både varsler deg og stopper leseren. Vår vurdering er at det er nettopp derfor grepet er interessant: kostnaden er lav, og det du får er en sperre som virker mot den typen angriper som ellers arbeider raskere enn du rekker å svare. Legg samtidig merke til hva tallene faktisk sier. De sterkeste angriperne falt hardest, mens de svakeste lot seg minst stoppe. Du får altså mest igjen mot den motstanderen du frykter mest.
To bivirkninger må du planlegge for før du prøver dette. Den ene er at bomben også kan stoppe dine egne lovlige KI-agenter, og Tracebits råd er å velge innhold rettet mot andre leverandører enn dem dere selv bruker. Den andre er at strengene kan skremme mennesker som snubler over dem i et driftsmiljø, og der foreslår Tracebit å kode teksten. Husk til slutt at dette er ett selskaps forsøk i én rigg, med selskapets eget produkt i den andre enden. Det er nok til å prøve i et kontrollert miljø, og ikke nok til å bygge forsvaret på.
Berigo anbefaler
- Prøv teknikken i et kontrollert miljø først, og bare der dere allerede har lokkeressurser og varsling som virker.
- Velg innhold rettet mot andre modellleverandører enn dem dere selv bruker, slik at deres egne agenter ikke stanses.
- Behandle et stanset angrep som et varsel, ikke som en løsning. Undersøk hvordan angriperen kom så langt.
- Kod teksten, slik at driftspersonell ikke møter støtende innhold i egne systemer uten forvarsel.
- Ikke bytt ut grunnleggende tiltak med dette. Snevre rettigheter og varsling er fortsatt det som avgjør utfallet.
Sikkerhet som forstås, styres og virker.
La oss hjelpe dere å gjøre sikkerhet til et fortrinn, ikke en kostnad. Ta kontakt for en uforpliktende samtale om hvor virksomheten står, og hva som bør prioriteres først.
Ta kontakt