Regjeringen vil gi oss helseråd med KI. Hvem skal undersøke om de skader?

Denne kronikken ble først publisert på Forskning.no.

KI er tilgjengelig hele døgnet, koster lite eller ingenting og blir aldri utålmodig. Du trenger ingen henvisning, må ikke stå på venteliste og kan fortelle om problemer du kanskje skammer deg over å snakke med andre om.

KI kan gi råd om hvordan mennesker bør tenke, føle og handle annerledes. Den kan hjelpe med å forstå angst, depresjon, konflikter og vanskelige relasjoner. Dette ligner på mye av det som foregår i et terapirom.

Vi har i flere tiår visst at psykologisk behandling kan ha negative effekter. Likevel mangler fortsatt gode systemer for å oppdage og håndtere dem.

I en tid hvor psykiske helsetjenester er under press, er det lett å forstå hvorfor mennesker søker hjelp hos KI.

En opplevd god samtale er ikke alltid til hjelp

Kommersielle aktører forsøker å ta ansvar. OpenAI har utviklet en test for å undersøke hvordan KI svarer mennesker med psykiske vansker. Men kvaliteten på svarene er ikke det samme som å undersøke hvordan samtalene påvirker mennesker over tid. Her må helsemyndighetene stille strengere krav enn teknologiselskapene gjør selv.

Nå vil helseminister Jan Christian Vestre bruke 20 millioner kroner på å utvikle en offentlig KI-tjeneste for helsespørsmål. Det gir helsemyndighetene en anledning til å ta et ansvar de lenge har forsømt i offentlig samtalebehandling: å undersøke om og i tilfelle hvordan hjelpen kan gjøre mennesker dårligere.

Se for deg at en person med helseangst får beroligende svar hver gang bekymringen melder seg. Det gir umiddelbar lettelse, men vil også opprettholde eller forsterke angsten over tid. Hva skjer når en ensom person får en samtalepartner som alltid er tilgjengelig? Bidrar det til større selvstendighet, eller kan det gjøre vedkommende mer avhengig av hjelpen?

At en samtale oppleves som god betyr ikke nødvendigvis at den hjelper. Dette blir særlig relevant for kunstig intelligens.

I boken Skadelige samtaler beskriver professor Leif Edward Ottesen Kennair og jeg at omtrent 5-15 prosent av pasienter i psykologisk behandling blir dårligere. Har KI-bruk den samme risikosiden?

I en amerikansk undersøkelse oppga 24 prosent at de brukte KI til spørsmål om psykisk helse. Hvis én av ti blir dårligere i disse samtalene, snakker vi om titusenvis av nordmenn.

Et offentlig ansvar

En offentlig kvalitetssikret KI-tjeneste er et fornuftig initiativ hvis det blir et tryggere alternativ. Hvis det skal bli trygt, må de følge med på hvilke psykiske konsekvenser rådene kan ha for de som mottar dem, og om det er risikosider ved et slikt samtaleformat. Her har helsemyndighetene en lite imponerende historie.

Regjeringen har nå muligheten til å bygge inn pasientsikkerhet fra starten av. Den muligheten bør den ikke la gå fra seg.

Vi har i flere tiår visst at psykologisk behandling kan ha negative effekter. Likevel mangler fortsatt gode systemer for å oppdage og håndtere dem. Pasientene med negative erfaringer har ingen steder å henvende seg for å få råd og hjelp.

I våre undersøkelser fant vi at selv erfarne psykologer hadde vanskeligheter med å oppdage forverring hos egne pasienter. Flere kunne knapt huske pasienter som var blitt dårligere gjennom mange års praksis. Poenget er at den som ikke leter etter negative effekter, finner heller ingen.

Grip muligheten til å sikre pasientsikkerhet

Helsedirektoratet erkjenner at KI kan skape psykologisk avhengighet. Da må de også ta ansvar for å oppdage skadevirkningene. Kanskje kan dette endelig gi oss det pasientsikkerhetsarbeidet myndighetene i flere tiår har forsømt i vanlig psykoterapi.

Det må undersøkes hvordan brukerne påvirkes over tid, hvordan eventuell forverring kan oppdages, og hvem som skal ha ansvar for å håndtere den. Funnene kan brukes til å ansvarliggjøre kommersielle KI-aktører.

Ingen samtaler, verken med mennesker eller maskiner, er uten risiko. Men vi kan sørge for at det finnes systemer som reduserer risikoen og håndterer negative hendelser når de oppstår.

Regjeringen har nå muligheten til å bygge inn pasientsikkerhet fra starten av. Den muligheten bør den ikke la gå fra seg.

Stemmer er ABC Nyheters debattseksjon. Dette er meningsytringer, og innholdet står for skribentens regning. Ønsker du å bidra? Send kronikk eller debattinnlegg til stemmer@abcnyheter.no.