Internasjonal veileder for trygg innføring av agentisk KI

En koalisjon av myndighetsorganer, blant dem ASD ACSC, CISA, NSA, NCSC-NZ, NCSC-UK og det kanadiske senteret for cybersikkerhet, har gitt ut veilederen "Careful adoption of agentic AI services". Dokumentet beskriver utfordringene og risikoene ved å ta i bruk agentisk KI og anbefaler tiltak for å håndtere dem. Det inneholder også god praksis rettet mot dem som utvikler, leverer og drifter agentiske KI-systemer.

Hva det betyr for virksomheten

Mange norske virksomheter er allerede i gang med agenter som leser dokumenter, kaller API-er og utfører handlinger på vegne av ansatte. Forskjellen fra en vanlig KI-assistent er nettopp at agenten handler, og det flytter spørsmålet fra personvern til styring og kontroll: hvem har gitt agenten tilgang, hva kan den gjøre uten å spørre, og hvem svarer for utfallet. En felles veileder fra disse myndighetene gir dere et anerkjent referansepunkt å bygge egne retningslinjer på, i stedet for å finne opp kravene selv.

Berigo anbefaler

• Få oversikt over hvilke KI-agenter som allerede er i bruk, også der de er tatt i bruk uten at IT har vært involvert.
• Bruk veilederen som utgangspunkt for en intern retningslinje, og prioriter de rådene som passer deres bruk.
• Definer hvilke handlinger en agent aldri skal utføre uten at et menneske godkjenner.
• Krev logging av agentens handlinger på samme nivå som for andre systemer som endrer data.

Kilde

• cyber.gov.au