Innsynsbloggen: KI-samtaler er omfattet av innsynsretten

I mars ble det avslørt at en rapport om skolestruktur i Tromsø kommune inneholdt en rekke feil - blant annet ble det referert til forskning som ikke eksisterer. 

Det kom fort fram at kommunen hadde brukt kunstig intelligens (språkmodellen ChatGPT) da de lagde kunnskapsgrunnlaget til politikerne i kommunen. 

Feilene skyldtes blant annet det som omtales hallusinasjon: Språkmodellen hadde funnet på kilder og opplysninger, et kjent problem ved bruk av slike tjenester. 

iTromsø, Nordlys og NRK Troms ba alle raskt om innsyn i loggen fra saksbehandlernes «samtaler» med språkmodellen. 

Innsyn i samtalelogger

Kommunen avslo innsynskravene. Først med begrunnelsen om at det var «interne dokumenter» (som kan avslås etter § 14 i offentleglova), og at de ikke kunne gis innsyn i. 

I begrunnelsen het det blant annet:

«Innsyn i chatloggene på nåværende tidspunkt vil videre kunne gi et uriktig bilde av hvordan KI er benyttet inn i saken ut ifra intensjonen. Bruk av KI er «nybrotsarbeid», noe som har medført at KI har blitt testet ut på ulike måter i saken, uten at svarene direkte har blitt benyttet inn i arbeidet. Innsyn kan av den grunn medføre spekulasjoner, og at saken blir stilt i et uriktig lys».

Da iTromsø klaget på avslaget, endret kommunen argumentasjon, og mente samtaleloggen ikke var dokumenter etter offentleglovas forstand, men «elektroniske spor», som det ikke er innsynsrett i. 

Kommunen mente også at de som arbeidsgiver ikke hadde lov til å utlevere arbeidstakers eposter, logger eller andre elektroniske spor. Undertegnede var involvert i prosessen fra henholdsvis iTromsø og Norsk Presseforbunds side.

Nå har Statsforvalteren i Troms og Finnmark ferdigbehandlet saken, og kommet med en klar, tydelig og viktig konklusjon: 

En samtalelogg som dette er et dokument som er omfattet av offentleglova, og skal være mulig å be om innsyn i. 

– Vi er videre enig med klagerne i at hensynene bak offentleglova, som kontrollhensynet og tillit til forvaltningen, taler for at chatloggene må regnes som saksdokumenter, heter det i avgjørelsen, som kan leses i sin helhet her.

Det er den første avgjørelsen av denne typen vi er kjent med.

I den konkrete saken kom statsforvalteren også til at dokumentene ikke kunne unntas som interne, fordi de allerede var sendt til eksterne granskere i PWC, og at det ikke var hjemmel for å nekte innsyn. 

Statsforvalteren var ikke klar over at kommunen hadde sendt loggen til PWC før iTromsø gjorde dem klar over dette. Statsforvalteren «slapp» derfor å vurdere om det skulle gis merinnsyn (en vurdering som må gjøres når det er snakk om interne dokumenter som kan, men ikke nødvendigvis bør, unntas for innsyn).

Kopierte tekst direkte

Statsforvalteren ga innsyn i loggen. Den går over 673 A4-sider, og har allerede ført til flere svært interessante saker i mediene som klaget over avslaget. 

Innsynet i chatloggen avdekker blant annet at Tromsø kommune har brukt ChatGPT uten kvalitetssikring. 

Tromsø kommune skrev i sitt første avslag at «KI har blitt testet ut på ulike måter i saken, uten at svarene direkte har blitt benyttet inn i arbeidet». 

Innsynet viser at den påstanden var feil. Det motsatte er riktig, iTromsøs gjennomgang av 673 sider chatlogg viser at svar fra ChatGPT er kopiert direkte inn i rapporten om skolenedleggelser.

Kommunen sier til Nordlys at statsforvalterens beslutning om å gi innsyn er en prinsippavgjørelse som vil kunne få konsekvenser for forståelsen av regelverket i landets kommuner.

Det er vi enige i. 

Det er veldig positivt at statsforvalteren slår fast det som egentlig burde ha vært åpenbart også for Tromsø kommune: Offentleglova og forvaltningsloven gjelder også for dokumenter som er produsert ved hjelp av språkmodeller og kunstig intelligens. Om det skal gis (mer)innsyn i ulike dokumenter som er produsert på denne måten, må vurderes konkret.

Etter vårt syn taler gode grunner for at det som hovedregel må gis innsyn i saker som dette, hvor KI er brukt til så sentrale deler av saksbehandlingen og i så stor utstrekning som her. 

Viktige sider var helt KI-generert

Når kunnskapsgrunnlag og beslutninger fattes med «hjelp» fra modeller som dette, er det særlig viktig at allmennheten har mulighet til å sette seg inn i hvordan det har skjedd.

iTromsøs gjennomgang av chatloggen viser hvorfor det er viktig at journalister ber om innsyn: 

Flere viktige sider i rapporten var 100 prosent generert av ChatGPT. 

I mesteparten av den 55 sider lange rapporten er ChatGPT anvendt til å produsere innhold og analyser.

Et eksempel: Prosjektlederen ba ChatGPT opptre som prosjektleder, lage innholdsfortegnelse til en rapport om skolenedleggelser, og ba så ChatGPT fylle ut ord for hvert punkt i innholdsfortegnelsen.

Chat GPT laget tekst for hvert kapittel i rapporten. Etter en stund stanset ChatGPT og ba brukeren kvalitetssikre innholdet (“KS”). 

Chat GPT skriver: «Dette dekker de første 10 000 ordene. Ta en titt og gi beskjed om det er noe du vil justere før jeg fortsetter videre. 

Prosjektlederen svarte: «Fyll ut hele resten. ingen behov for videre KS».

Og dette er trolig det mest alvorlige med hele KI-skandalen i Tromsø kommune: Den brukte ChatGPT som om det var et orakel som hadde svar på alt. Men kunstig intelligens har ingen forståelse. 

Når saksbehandleren ber ChatGPT om hjelp, svarer språkmodellen med en sannsynlighetsberegning med basis i det materialet den er trent på. Den vil ofte ikke ha lokal kunnskap, så den gir ofte bare generelle svar. 

I arbeidet med skole- og KI-skandalen trente iTromsø opp sin egen KI-detektor, for å undersøke hvilke deler av teksten i skolerapporten som kunne være generert av KI. Vi trente den på kommunale sakspapirer skrevet før 2020, før ChatGPT var tilgjengelig. Så sammenlignet vi klassiske menneskeskrevne saksdokumenter med skolerapporten.

Mens de typiske saksdokumentene før 2020 var omstendelig byråkratisk språk søkklastet med lokale analyser og detaljer, hadde skolerapporten et glætt policyspråk med setningsstruktur typisk for ChatGPT. 

Færre lokale analyser

Det mest alvorlige KI-detektoren avdekket var at skolerapporten hadde langt færre lokale analyser og lokale detaljer enn vanlige sakspapirer. Glatt KI-generert tekst – som ser flott ut – hadde erstattet saksbehandlernes faktisk lokale og detaljerte analyser. 

Da iTromsø leste gjennom chatloggen, viste det seg at det var langt mer KI-generert innhold i skolerapporten enn det KI-detektoren til iTromsø avdekket. De første resultatene med vår KI-drevne KI-detektor viste så massiv bruk av KI at vi trodde det var feil.

I Norge er det få tidligere eksempler vi er kjent med hvor det er blitt gitt innsyn som viser KI-bruk i det offentlige. Framover vil det forhåpentlig bli flere - og det vil være viktig for å kunne belyse hvordan forvaltningen jobber. I USA har radiokanalen KNKX fått innsyn i et stort antall dokumenter fra ulike forvaltningsorganer i Seattle-området. De oppsummerer funnene slik:

«Noen dokumenter viser den potensielle nytten av generativ kunstig intelligens (KI). Men andre reiser spørsmål om åpenhet, opphavsrett, sikkerhet og i hvilken grad en upålitelig ny teknologi i det hele tatt bør brukes i offentlig arbeid». (I KI-åpenhetens navn: oversettelse via Google Gemini).

Viktig avgjørelse framover

Avgjørelsen om å gi innsyn i KI-loggen i Tromsø-saken er svært viktig, fordi bruk av slike språkmodeller og andre former for «kunstig intelligens», er på full fart inn i forvaltningen (i likhet med samfunnet for øvrig).

Staten og det offentlige har store ambisjoner om framtidig KI-bruk. Da er det viktig at de sentrale lovene og saksbehandlingsreglene, som skal sørge for at det er mulig å ettergå og debattere vedtak og kunnskapsgrunnlag, fortsatt gjelder.

Og det blir viktig at journalistene bruker offentleglova til å få innsyn i chatlogger, for å kunne rette et kritisk søkelys på hvordan offentlig forvaltning bruker kunstig intelligens.