Google: trusselaktører bruker AI gjennom hele angrepskjeden

Google Threat Intelligence Group (GTIG) rapporterer at trusselaktører bruker selskapets Gemini-modell i flere faser av et angrep, fra rekognosering til aktivitet etter at de har fått fotfeste. Rapporten peker på tre utviklingstrekk mot slutten av 2025: modellekstraksjon, der aktører systematisk spør en modell for å gjenskape deler av dens logikk og oppførsel, AI-støttede operasjoner, og tidlige forsøk på å bygge AI inn i selve verktøyene. Statsstøttede aktører bruker språkmodeller til kartlegging av mål, oversetting, innsamling av åpne kilder, utforming av phishing-innhold og koding. GTIG understreker at avanserte aktører ennå ikke har angrepet de fremste modellene direkte, men at eksperimenteringen tilsier løpende overvåking og god beskyttelse av API-er.

Hva det betyr for virksomheten

Effekten på kort sikt er ikke nye angrepsformer, men lavere kostnad og høyere tempo i de gamle. Phishing på god norsk, målrettet mot navngitte personer i din organisasjon, er ikke lenger noe som krever mye arbeid fra angriperen. Det svekker de kontrollene som bygger på at ansatte gjenkjenner språkfeil og klossete formuleringer.

Berigo anbefaler

• Legg om sikkerhetsopplæringen fra språklige kjennetegn til kontekst og handling: uventet hastverk, endrede kontonumre, forespørsler utenom vanlig kanal.
• Innfør bekreftelse i egen kanal for betalinger og endringer av leverandøropplysninger, uavhengig av hvor overbevisende henvendelsen virker.
• Sikre egne AI-API-er med rate-begrensning, autentisering og logging, slik at systematisk utspørring blir synlig.
• Ta AI-støttet sosial manipulering inn i beredskapsøvelsene, ikke bare i awareness-kampanjen.

Kilde

• cloud.google.com