Microsoft: AI brukes til å effektivisere kjent håndverk, ikke oppfinne nytt

Microsoft har publisert en rapport om hvordan trusselaktører tar i bruk kunstig intelligens i operasjonene sine. Hovedfunnet er at AI i dag først og fremst brukes til å effektivisere og forenkle kjent håndverk, ikke til å innføre helt nye angrepsteknikker. Observerte bruksområder er oversettelse, produksjon av phishing-e-poster og troverdige, men falske identiteter og CV-er. Generativ AI brukes også til å oppsummere stjålet informasjon og prioritere mål etter et innbrudd. Fullstendig AI-generert skadevare er fortsatt sjelden, men verktøyene brukes til feilsøking, omskriving av kode og oppsett av infrastruktur.

Hva det betyr for virksomheten

De klassiske kjennetegnene på svindel, som klosset norsk, feil tone og merkelige formuleringer, er ikke lenger til å stole på. Det rammer særlig rekruttering, leverandøroppfølging og betalingsprosesser, der en troverdig identitet er halve jobben for angriperen. Samtidig er dette ikke en ny trussel, men en raskere versjon av den dere allerede har vurdert, og det betyr at kontrollene bør handle om verifisering og prosess framfor om språklig magefølelse.

Berigo anbefaler

• Innfør kontroll utenfor kanalen ved endring av kontonummer og andre betalingsopplysninger, uansett hvor troverdig henvendelsen virker.
• Skjerp identitetskontrollen i rekrutteringsprosessen, særlig for roller med tilgang til systemer eller data.
• Oppdater sikkerhetsopplæringen slik at den ikke lærer folk å se etter språkfeil.
• Ta stilling til virksomhetens egen bruk av AI-verktøy i samme runde. Styring av egen bruk og forståelse av trusselen hører sammen.

Kilde

• microsoft.com
• pushsecurity.com