Unit 42: språkmodeller finner opp domener som angripere registrerer

Unit 42 har publisert forskning på det de kaller phantom squatting: språkmodeller genererer domenenavn som ser troverdige ut, men ikke finnes, og angripere kan registrere dem og bruke dem til phishing, distribusjon av skadevare eller styringstrafikk. Forskerne testet 913 merkevarer over 685 339 forespørsler, produserte 2,1 millioner nettadresser, identifiserte 13 229 ondsinnede adresser modellene allerede hadde generert, og fant om lag 250 000 uregistrerte oppdiktede domener. I ett tilfelle registrerte en angriper et oppdiktet domene for en posttjeneste og satte opp et phishing-sett 23 dager etter at Unit 42s system hadde forutsagt mønsteret.

Hva det betyr for virksomheten

Når ansatte og automatiserte arbeidsflyter behandler adresser fra en språkmodell som pålitelige, er tilliten plassert feil sted. Risikoen øker jo mer virksomheten lar AI-agenter hente innhold eller kjøre kode uten mennesker i loopen. Dette er også et merkevareproblem: kunder kan bli sendt til domener som ligner på ditt, uten at du noen gang har registrert dem.

Berigo anbefaler

• Valider nettadresser som kommer fra AI-verktøy før de brukes, særlig i automatiserte arbeidsflyter.
• Begrens hva AI-agenter og kodeassistenter får lov til å hente og kjøre på egen hånd.
• Overvåk nyregistrerte domener som ligner virksomhetens eget navn og varemerker.
• Ta med behandling av modellgenererte referanser i retningslinjene for bruk av AI.

Kilde

• unit42.paloaltonetworks.com