Hugging Face melder om innbrudd utført av AI-agenter

Hugging Face har offentliggjort et innbrudd i deler av produksjonsinfrastrukturen sin, og opplyser at angrepet ble gjennomført fra ende til annen av et autonomt AI-agentsystem. Et ondsinnet datasett utnyttet en sårbarhet til å kjøre kode på en prosesseringsnode, hente ut klyngelegitimasjon og bevege seg videre mellom interne klynger. Selskapet fant uautorisert tilgang til begrensede interne datasett og tjenestelegitimasjon, men ingen tegn til at offentlige modeller, datasett, Spaces, containerbilder eller publiserte pakker var endret. Hugging Face har lukket kodekjøringsveiene, bygget om kompromitterte noder, rotert legitimasjon og skjerpet kontrollene i klyngene, og ber brukere rotere tilgangstokener og gjennomgå nylig kontoaktivitet.

Hva det betyr for deg som bygger med modeller og agenter

Forløpet er kjent for deg som har sett denne typen angrep før. Ondsinnede inndata gir kodekjøring. Kodekjøringen gir legitimasjon, og legitimasjonen gir bevegelse videre innover i miljøet. Berigos vurdering er at det nye ikke er teknikken, men tempoet og skalaen når hele kjeden drives av agenter uten at et menneske er inne i bildet. Henter du modeller eller datasett fra offentlige registre, er det verdt å vite at du i praksis tar inn kode fra en ukjent kilde.

Bygger du selv agentbaserte løsninger, mener vi at kravene til isolasjon og minste privilegium gjelder fullt ut. En agent er kjørende kode. At den er ny, gir den ikke krav på mer tillit enn annen kjørende kode. Den bør heller ikke ha bredere tilgang. Det viktigste her er etter vår mening at du vet hva prosesseringsmiljøene dine faktisk kan nå. Den tilgangen avgjør hvor langt et angrep kommer.

Berigo anbefaler

• Kjør behandling av eksterne modeller og datasett i isolerte miljøer uten tilgang til produksjonslegitimasjon.
• Roter tilgangstokener mot Hugging Face og gjennomgå kontoaktivitet for de aktuelle prosjektene.
• Ta med agentbaserte og AI-drevne angrep som eget scenario i risikovurderingen, ikke bare som en variant av eksisterende trusler.
• Sett tidsbegrensning på tjenestelegitimasjon, slik at et tyveri har en utløpsdato.

Kilde

• huggingface.co