AI i virksomheten: slik kommer dere trygt i gang

Dere bruker AI allerede

De fleste virksomheter som spør «bør vi begynne med AI?» har allerede begynt. Ikke gjennom en beslutning i ledergruppen, men gjennom enkeltansatte som har funnet et verktøy som gjør dagen lettere. En rådgiver limer inn et rapportutkast for å få bedre språk. En prosjektleder ber en chatbot oppsummere et langt referat.

Det kommer også inn en annen vei: som funksjoner leverandørene slår på i programvaren dere allerede bruker. Møtereferater som skrives automatisk, forslag til svar i e-post, oppsummeringer i saksbehandlingssystemet. Ingen har bestilt det. Det står der en morgen.

Dette kalles gjerne skygge-AI: bruk som skjer utenfor virksomhetens oversikt. Det er sjelden vondt ment. Som regel er det drevet av folk som prøver å levere bedre og raskere. Men det flytter spørsmålet. Det handler ikke om dere skal ta AI i bruk, men om dere vet hvor det allerede brukes, og hva som skjer med det som limes inn.

Det er også et godt sted å begynne, fordi det gjør en abstrakt teknologidebatt til noe konkret dere kan gjøre noe med.

Hva en språkmodell er, og ikke er

Verktøyene folk bruker bygger på språkmodeller. En språkmodell er trent på svært store mengder tekst, og den er blitt god til én ting: å forutsi hva som sannsynligvis kommer etter det som allerede står. Alt annet den ser ut til å gjøre, som å svare, forklare og oppsummere, springer ut av at den gjør nettopp dette, godt, mange ganger etter hverandre. Deretter er den finjustert til å følge instruksjoner og være til nytte. Det er derfor den sjelden sier «dette vet jeg ikke».

Tre konsekvenser er verdt å ta med inn i en ledergruppe.

Den er ikke et oppslagsverk. Modellen henter ikke et fasitsvar fra en database. Den produserer tekst som ligner på et riktig svar. Som regel er det det samme. Noen ganger er det ikke det.

Den finner på ting, med samme rolige selvsikkerhet som når den har rett. Fagfeltet kaller det hallusinering. Modellen kan oppgi en paragraf som ikke finnes, en dato som er feil eller en kilde som aldri er skrevet. Den flagger det ikke, fordi den ikke vet at den tar feil. Den har ingen indre målestokk for hva som er sant.

Den er føyelig. Presser man på, endrer den gjerne standpunkt. Det gjør den til en dårlig annenmening og en god sparringpartner, men bare for den som allerede kan faget.

Dette gjør ikke teknologien ubrukelig. Det gjør den til et utkastverktøy, ikke en kilde. Alt som skal ut av huset, inn i et vedtak eller inn i et tall, må gjennom et menneske som kan faget, og det mennesket beholder ansvaret. Ansvaret følger ikke med teksten ut av modellen.

Hvorfor dette treffer en virksomhet med taushetsplikt

Når en ansatt limer inn tekst i et AI-verktøy, forlater teksten virksomheten. Hvor den lagres, hvor lenge, hvem som har tilgang, og om den brukes videre til trening, avhenger av avtalen dere har med leverandøren. Gratisversjoner og private kontoer har som regel andre vilkår enn en bedriftsavtale, og gratisversjonene er de ansatte finner først.

Det er her det blir alvor for de fleste. Et utkast til en oppsigelse inneholder personopplysninger. Et styrenotat kan inneholde informasjon som ikke skal være kjent før den er besluttet. En hendelsesrapport beskriver deres egne svakheter, samlet på ett sted.

Personopplysninger i AI-verktøy er GDPR-relevant på helt ordinært vis. Dere trenger et behandlingsgrunnlag. Dere må vite hvilken rolle leverandøren har: en leverandør som bruker innholdet til å forbedre sine egne modeller, opptrer ikke bare som databehandler på deres vegne. Der leverandøren er databehandler, skal det foreligge en databehandleravtale. Dere må vite hvor dataene havner, også utenfor EØS, og hvilket overføringsgrunnlag som gjelder. Og bruken hører hjemme i protokollen over behandlingsaktiviteter, på linje med andre systemer.

Dette er ikke nye regler for ny teknologi. Det er personvernreglene dere allerede har, anvendt på en ny vei ut av huset.

Har det allerede skjedd, og det har det ofte, er svaret ikke å lete etter en skyldig. Vurder om det utgjør et brudd på personopplysningssikkerheten, dokumenter vurderingen, og meld til Datatilsynet innen 72 timer dersom det er sannsynlig at bruddet medfører en risiko for de registrertes rettigheter og friheter. Deretter retter dere årsaken.

Begynn med å se hva som skjer

Første grep er en kartlegging, ikke et prosjekt. Spør åpent og uten sanksjoner: hvilke verktøy brukes, til hva, og hvor ofte? Ta med funksjonene som følger med programvaren dere allerede betaler for. Folk forteller gjerne, hvis de ikke tror de blir straffet for svaret. En slik runde sier som regel mer om den reelle eksponeringen enn et policydokument gjør.

Deretter kommer beslutningen som tilhører ledelsen og ikke IT: hva skal aldri ut? Lag en kort og konkret liste. Typisk hører dette hjemme på den:

• personopplysninger om ansatte, kunder og brukere
• helseopplysninger og andre særlige kategorier av personopplysninger
• styredokumenter og saker under behandling
• kildekode og teknisk dokumentasjon
• kontrakter og tilbud under forhandling
• sikkerhetsdokumentasjon, risikovurderinger og hendelsesrapporter

Vær spesifikk nok til at den enkelte kjenner igjen sitt eget dokument i listen. En abstrakt liste beskytter ingenting.

Velg bruksområder der en feil er billig

Modenhet bygges der feil kan oppdages og rettes uten skade. Språkvask av tekst dere selv har skrevet. Oppsummering av offentlig tilgjengelig materiale. Utkast til møteagendaer og interne notater. Strukturering av egne tanker før et styremøte.

Vent med det motsatte: vurderinger av enkeltpersoner, beslutninger som utløser penger, saksbehandling med rettslig virkning, og alt som går ut til kunde eller tilsyn uten at et menneske har lest det. Ikke fordi teknologien aldri kan brukes der, men fordi den bør brukes der først når dere vet hvordan den oppfører seg.

Kjøreregler folk faktisk forstår

Én side holder. Vanlig språk. Tre spørsmål besvart: hva vil dere at folk skal bruke dette til, hva skal aldri limes inn, og hvem spør man når man er i tvil? Retningslinjer som krever juridisk tolkning blir ikke fulgt. De blir omgått i stillhet, og da mister dere oversikten dere nettopp skaffet dere.

Gjør samtidig den trygge veien til den enkleste. Hvis virksomheten tilbyr et godkjent verktøy med ryddige vilkår, og tilgangen er enkel, forsvinner mye av skygge-AI av seg selv. Folk velger sjelden risiko med vilje. De velger det som virker.

Regelverket i korte trekk

EUs AI-forordning, AI Act, forordning (EU) 2024/1689, er risikobasert. Noen former for bruk er forbudt. Bruk som regnes som høyrisiko, blant annet i rekruttering og personalbeslutninger, kredittvurdering av enkeltpersoner og tilgang til visse offentlige tjenester, møter omfattende krav til risikostyring, dokumentasjon og menneskelig kontroll. Mesteparten av alminnelig kontorbruk faller utenfor disse kategoriene, men ingenting faller utenfor personvernreglene.

To ting overrasker ofte ledere. Det første er at pliktene ikke bare treffer den som utvikler et AI-system, men også virksomheten som tar det i bruk. Det andre er kravet om AI-kompetanse: virksomheten skal sørge for at de som bruker slike systemer på dens vegne, har tilstrekkelig forståelse av hva verktøyene gjør og ikke gjør. Det er ikke et krav om sertifikater. Det er et krav om at folk vet hva de har i hendene.

Forordningen er merket EØS-relevant og er ventet innlemmet i norsk rett. Uavhengig av tidspunktet treffer den mange norske virksomheter gjennom kunder, eiere og leverandører i EU, som stiller kravene videre i egne avtaler.

ISO/IEC 42001 er den andre halvdelen: et ledelsessystem for kunstig intelligens, bygget på samme struktur som ISO 27001: roller, risikovurdering, kontroll og etterprøvbarhet. Forskjellen er verdt å merke seg. ISO 27001 handler om risiko for virksomhetens informasjon. ISO 42001 krever i tillegg at dere vurderer hvordan bruken av AI påvirker menneskene den brukes på.

Ingen av delene er et sted å begynne. De er et sted å komme til. Poenget med å kjenne retningen nå er enkelt: da slipper dere å gjøre om valgene senere.

Lederens rolle

Dere skal ikke forstå hvordan en modell er bygget. Dere skal eie de strategiske valgene: hva som er akseptabel risiko, hvilke data som ikke skal ut under noen omstendighet, hvor verdien faktisk ligger, og hvem som svarer for bruken. Det er den samme rollen som i all annen virksomhetsstyring: å være en god bestiller og en trygg kontrollør. Også her avgjøres sikkerheten i styrerommet, ikke i serverrommet.