Kunstig intelligens trenger ikke bevissthet for å true samfunnskritiske funksjoner

Denne kronikken ble først publisert på Altinget.

Den reelle utfordringen er at kunstig intelligens er i ferd med å bli en integrert del av samfunnets viktigste funksjoner. Rapporten «State of AI in Norway 2026» av Simula Centre for AI Security and Safety (CAISS) beskriver utbredelsen av kunstig intelligens i Norge.

Sektorer som strømforsyning, elektronisk kommunikasjon, finansielle tjenester, helse, transport og offentlig forvaltning tar i økende grad i bruk KI for analyse, planlegging, beslutningsstøtte og automatisering.

Samtidig blir systemene mer autonome og får tilgang til stadig flere data, prosesser og kritiske beslutninger.

Dette er Altinget

Altinget.no er Norges første rendyrkede politiske nettavis. Med 28 nisjemedier i Danmark og 11 i Sverige er Altinget allerede et etablert mediehus i Norden. Målet er å øke forståelsen for nasjonal og europeisk politikk gjennom nisjejournalistikk av høy kvalitet – med et nøytralt utgangspunkt.

Ifølge CAISS sin rapport er Norge blant landene i verden med høyest bruk av kunstig intelligens. Nær halvparten av arbeidslivet benytter KI, og to tredjedeler av arbeidstakere oppgir at de bruker KI på jobb.

Dette skaper store muligheter, men også nye sårbarheter.

For samfunnskritiske virksomheter er ikke spørsmålet om kunstig intelligens blir «intelligent nok», men hvordan vi sikrer at teknologien opptrer innenfor de rammene vi har definert, uavhengig av diskusjonen rundt intelligens og bevissthet. 

Les også på Altinget: Se oversikten: Dette byr den digitalpolitiske høsten på

Vekst i KI-relaterte hendelser

Tradisjonelle sikkerhetsprinsipper gjelder fortsatt. Vi må vite hvilke data systemene har tilgang til, hvilke handlinger de kan utføre, hvem som har ansvaret, og hvordan aktivitet kan kontrolleres og etterprøves.

Problemet er at moderne KI-systemer ofte er utviklet for å oppnå mål, ikke nødvendigvis for å følge en forhåndsdefinert og forutsigbar prosess. Det gjør at de kan velge løsninger mennesker ikke har forutsett. OpenAI, Anthropic og Meta har opplevd hvor galt dette kan gå i bredt omtalte sikkerhetsbrudd denne sommeren. 

Jo viktigere teknologien blir for samfunnet, desto viktigere blir sikkerhetsstyringen rundt den.

Internasjonalt ser vi en generell vekst i KI-relaterte hendelser. Antallet dokumenterte KI-hendelser har økt kraftig, og virksomheter peker særlig på feilinformasjon, hallusineringer og cybersikkerhet som de største risikoområdene ved bruk av KI.

Erfaringene fra testing av både norske og internasjonale modeller understreker dette. Avanserte modeller kan med stor selvsikkerhet gi uriktige svar eller la seg påvirke av feil og skjevheter i data og forespørsler fra brukeren. Rapporten viser at slike svakheter ikke er begrenset til små eller nasjonale modeller, men er en utfordring på tvers av dagens KI-teknologi.

For samfunnskritiske funksjoner betyr dette at kunstig intelligens ikke kan gis ubegrenset tillit. 

Ansvaret er fortsatt menneskelig

Når KI brukes innen helse, energiforsyning, beredskap, transport eller offentlig myndighetsutøvelse, må menneskelig kontroll opprettholdes. Kritiske beslutninger må kunne overprøves. Aktiviteter må logges og kunne granskes i etterkant. Systemer må testes grundig før de tas i bruk, og de må overvåkes kontinuerlig gjennom hele livsløpet. 

Dette er ikke et argument mot kunstig intelligens. Tvert imot. Norge trenger mer bruk av KI for å styrke produktivitet, sikkerhet og konkurransekraft.

Men jo viktigere teknologien blir for samfunnet, desto viktigere blir sikkerhetsstyringen rundt den. 

Kunstig intelligens har ingen juridisk ansvarsevne. Den kan ikke holdes ansvarlig for svikt i strømforsyningen, feil i helsetjenesten eller bortfall av kritiske samfunnsfunksjoner. Det ansvaret ligger fortsatt hos virksomhetenes ledelse og hos myndighetene. 

Derfor bør vi bruke mindre tid på å diskutere om maskiner en dag blir bevisste, og mer tid på å sikre at de forblir underlagt menneskelig styring, kontroll og ansvar. For samfunnskritiske funksjoner er det ikke kunstig intelligens som avgjør hvor robust og sikkert Norge blir i fremtiden. Det gjør vi. 

Les også på Altinget: Ingen blir klokere av 150 meningsløse KI-debatter

Stemmer er ABC Nyheters debattseksjon. Dette er meningsytringer, og innholdet står for skribentens regning. Ønsker du å bidra? Send kronikk eller debattinnlegg til stemmer@abcnyheter.no.