KI-drevne angrep treffer bredt, og tilliten til autonome verktøy faller

En rapport fra CDW oppgir at 43 prosent av virksomhetene har møtt phishing forsterket med kunstig intelligens, og at 37 prosent har møtt skadevare drevet av den samme teknologien. Rapporten oppgir også at 41 prosent planlegger å ta i bruk KI til trusseldeteksjon og avviksdeteksjon. Tallene ble omtalt av ZDNet 27. juli 2026. En egen rapport fra Cobalt oppgir at bare 9 prosent av virksomhetene er villige til å stole på autonome sikkerhetsverktøy i 2026, mot 29 prosent i 2025. Dark Reading omtalte den rapporten 27. juli 2026, og knytter nedgangen delvis til at angripere utnytter styringsregler framfor tekniske sårbarheter.

Hva som skjer teknisk

KI-forsterket phishing er ikke en ny angrepsvei. Det er en billigere og bedre utgave av en gammel. Språkmodeller skriver feilfri norsk og engelsk i stor skala, og de kan tilpasse hver enkelt melding til mottakerens rolle, arbeidsgiver og nylige aktivitet. Det fjerner nettopp de kjennetegnene mange opplæringsprogrammer har lært folk å se etter, altså språkfeil, klossete formuleringer og åpenbart feil adressering. Buck Bell, direktør i CDWs Global Security Strategy Office, sier at vi bør være bekymret for at KI som teknologi blir stadig bedre til å oppdage og utnytte svakheter. Hans råd i omtalen er at sikkerhetsfolk nå må ta i bruk tilsvarende verktøy for å finne svakhetene før angriperne gjør det.

Den andre rapporten peker på en helt annen mekanisme. Autonome sikkerhetsverktøy handler innenfor grenser virksomheten selv setter, for eksempel hvor mye trafikk de har lov til å blokkere, hvilke kontoer de kan stenge, og hvor langt de kan gå uten at et menneske godkjenner. Slike tak er fornuftig praksis, for et verktøy som kan stanse produksjonssystemer trenger en grense. Den uavhengige sikkerhetsforskeren Burak Oktenli kaller det «cap weaponization» når motparten utnytter selve styringsreglene i stedet for en teknisk sårbarhet. Omtalen går ikke nærmere inn på hvordan dette gjøres i praksis, og den oppgir heller ikke hvilke verktøy som er undersøkt.

Hva det betyr for deg som har ansvar for sikkerheten

Tallene bør du lese som en retning, ikke som en presis måling. Verken utvalgsstørrelse, geografi eller spørsmålsformulering framgår av omtalene. Begge rapportene kommer dessuten fra leverandører i det samme markedet, og det er et vanlig forbehold ved leverandørundersøkelser. Retningen kjenner vi likevel igjen fra norske virksomheter. Henvendelsene dine ansatte får, blir bedre skrevet, mer treffsikre og vanskeligere å skille fra ekte post.

Konsekvensen for opplæringen din er direkte. Lærer programmet ditt de ansatte å lete etter språkfeil, trener du dem på et kjennetegn som er i ferd med å forsvinne. Det som fortsatt holder, er å verifisere selve forespørselen i en annen kanal enn den den kom i. Fallet i tillit til autonome verktøy peker samtidig på noe du bør merke deg. Automatiseringen er slik vi ser det ikke problemet i seg selv. Grensene den opererer innenfor er derimot blitt en del av angrepsflaten, og de fortjener samme beskyttelse som resten av sikkerhetskonfigurasjonen din. NIS2-direktivet legger ansvaret for slike vurderinger til ledelsen i vesentlige og viktige virksomheter.

Berigo anbefaler

• Bytt ut opplæring som lærer ansatte å lete etter språkfeil, med rutiner som verifiserer forespørselen i en annen kanal enn den den kom i.
• Krev bekreftelse utenfor kanalen ved endringer i betalingsopplysninger, tilganger og leverandørkontakter.
• Skriv ned hvilke grenser de automatiserte sikkerhetstiltakene har, hvem som kan overstyre dem, og hvem som kan lese dokumentet. Behandle det som sensitivt.
• Øv på at det autonome verktøyet tar feil eller lar være å gripe inn, og på hvordan mennesker overtar.
• Ta KI i både angrep og forsvar inn i risikoregisteret, og rapporter det til styret sammen med resten av risikobildet.