Vi har ikke råd til det tillitstapet som kommer med generativ KI

Dette debattinnlegget ble først publisert på Altinget, som ABC Nyheter har et samarbeid med. 

De siste ukene har det skjedd to ganger, først i Asker kommune, så i Alver; generativ KI har blitt brukt i saksbehandlingen for politiske vedtak, den har hallusinert kilder og kommunens interne kvalitetssikring har ikke fanget det opp. I stedet har feilen blitt oppdaget av journalister.

Men dette er ikke noe nytt. Dette har skjedd før. Tromsø kommune gjorde samme blemme i en sak om skolenedleggelse. Til og med Riksrevisjonen er skyldig i å legge til grunn et KI-generert tall om hvor mange årsverk som kan effektiviseres med bruk av generativ KI. 

Dette er Altinget

Altinget.no er Norges første rendyrkede politiske nettavis. Med 28 nisjemedier i Danmark og 11 i Sverige er Altinget allerede et etablert mediehus i Norden. Målet er å øke forståelsen for nasjonal og europeisk politikk gjennom nisjejournalistikk av høy kvalitet – med et nøytralt utgangspunkt.

Les også på Altinget: 20 prosent av datasenterkraften går til krypto

Feil fra generativ KI påvirker «aldri» resultatet

Hver eneste gang dette skjer, må virksomheten ut og beklage. Og hver gang gjentas de samme flosklene:

«Feila har liten betydning for innhaldet i teksten vår», sier Alver kommune.

«Det er henvisningene i saksfremlegget som er feil, ikke innholdet», lyder det fra Asker kommune.

«PwC kan ikke se at bruk av kunstig intelligens har hatt betydning for innholdet i arbeidsgruppens forslag til ny skole- og barnehagestruktur», står det i granskningsrapporten etter Tromsø-saken. 

Det virker mistenkelig beleilig at slike feil fra en generativ KI-tekst aldri ser ut til å ha noen påvirkning på resultatet.

Eller fra selveste Riksrevisjonen: «Vi ser nå at vi burde forklart tallet bedre, blant annet at KI var brukt for å komme fram til tallet.» Uten at konklusjonen i rapporten endres.

Resultatet er det samme hver gang. Ja, det offentlige har gjort feil. Ja, det har blitt vist til feil kilder. Noen ganger betyr det til og med at innholdet i saksdokumentene er feil. Men resultatet er alltid riktig. Ingen av feilene har hatt innvirkning på utfallet. 

Les også på Altinget: Ingen garanti for at BankID beholder sikkerhetsnivået mens klagen behandles

Tilliten til det offentlige brytes ned

Det er mange problemer med denne typen kommunikasjon, men la meg si det åpenbare: Det virker mistenkelig beleilig at slike feil fra en generativ KI-tekst aldri ser ut til å ha noen påvirkning på resultatet. Det er rett og slett skikkelig vanskelig å tro på.

Så vanskelig at når kommunikasjonsavdelingen må ut og forsvare dette, har tillitsbruddet allerede skjedd.

Min påstand er at denne måten å bruke generativ KI på, ødelegger tilliten til det offentlige på en måte som vi ikke har råd til. Og samtidig ser jeg at disse virksomhetene overhodet ikke tar inn over seg det alvorlige tillitsbruddet som denne typen saker innebærer. Disse sakene blir bagatellisert bort når det kommuniseres at feil kilde lagt til grunn aldri får konsekvenser for utfallet. 

Min frykt er at et ønske om økt effektivitet kommer på bekostning av ikke bare riktighet, men også tillit.

Norge er et samfunn preget av høy tillit. Det er vanskelig å måle verdien av høy tillit, men jeg mener det er en beredskapsressurs vi snakker lite om. Vi så det under pandemien, folk flest følger føringene fra styringsmaktene.

Når KI rulles ut så raskt, uten tydelige rammer og helt uten et bevisst forhold til hva teknologien bør brukes til, vil feil som dette fortsette å skje. Min frykt er at et ønske om økt effektivitet kommer på bekostning av ikke bare riktighet, men også tillit.

Kjære digitaliseringsminister, vi har råd til å gå saktere

Nylig ble det kjent at Norge er det landet i Europa som bruker mest KI. Det er ikke vanskelig å se hva det skyldes. Vi er allerede ganske digitaliserte, og i tillegg har det offentlige fått en tydelig føring fra digitaliseringsministeren om at alle offentlige virksomheter skal ta i bruk KI innen 2030.

Dette fordi KI skal økt effektiviteten, noe som har potensiale for å redde velferdsstaten. Jeg forstår deg godt, Digitaliseringsminister. Når selveste velferdsstaten står på spill, haster det med utrullingen av KI.

Problemet er bare at selve utrullingen også truer velferdsstaten. Den er helt fullstendig avhengig av vår alles kollektive tillit, og den brytes sakte, men sikkert ned for hver ny sak som dette.

Min oppfordring til deg, kjære Digitaliseringsminister, er at vi har råd til å gå langsommere. Det vi ikke har råd til, er svekket tillit. 

Stemmer er ABC Nyheters debattseksjon. Dette er meningsytringer, og innholdet står for skribentens regning. Ønsker du å bidra? Send kronikk eller debattinnlegg til stemmer@abcnyheter.no.