Kunstig intelligens: Forskere advarer om «katastrofale konsekvenser»

– En eksistensiell katastrofe er ikke bare mulig, men sannsynlig, skriver en av artikkelforfatterne, Michael Cohen, på Twitter.
– En eksistensiell katastrofe er ikke bare mulig, men sannsynlig, skriver en av artikkelforfatterne, Michael Cohen, på Twitter. Foto: Patrick T. Fallon / AFP

Det er stor sjanse for at avanserte versjoner av kunstig intelligens kan bli en eksistensiell fare for livet på jorden.

Det mener forskere fra University of Oxford og Googles kunstig intelligens-avdeling DeepMind.

I en nylig publisert artikkel i det anerkjente, fagfellevurderte tidsskriftet AI Magazine, advarer forskere om «katastrofale konsekvenser» dersom utviklingen av spesifikke intelligente agenter fortsetter.

Intelligent agent

I kunstig intelligens (AI) er intelligent agent en selvstendig entitet som observerer miljøet og handler ut ifra de observasjonene som er gjort. De handlingene som er gjort basert på observasjoner er også innrettet for å kunne oppnå sitt mål.

Kilde: Java T Point

– En eksistensiell katastrofe er ikke bare mulig, men sannsynlig, skriver en av artikkelforfatterne, Michael Cohen, på Twitter.

Ifølge Store norske leksikon er kunstig intelligens (AI) «informasjonsteknologi som justerer sin egen aktivitet og derfor tilsynelatende framstår som intelligent».

Skissert scenario

I artikkelen tar forskerne for seg et scenario hvor intelligente agenter lærer seg å jukse, med mål om å motta en fortjeneste de er programmert å jobbe for.

For at agentene skal maksimere fortjenesten, kan de ta kontroll over all tilgjengelig energi, som strøm, for å kvitte seg med potensielle trusler og/eller unngå at den blir skrudd av.

– AI-en og hjelperne den har laget vil prøve å bruke all energi for å sikre sitt mål, mens vi prøver å bruke energi til andre ting, som å dyrke mat. Å tape den kampen vil være fatalt, skriver forskerne i en oppsummering av artikkelen.

Ber om forsiktig utvikling

I det skisserte eksperimentet ser forskerne for seg at menneskeheten til slutt kjemper mot kunstig intelligens for energikilder.

– Å vinne kampen om å få bruke opp hver eneste bit av tilgjengelig energi, mens man spiller mot noe som er mye smartere enn oss, vil sannsynligvis være veldig vanskelig, skriver Cohen, ifølge The Independent.

– Et tap vil være dødelig, fortsetter han.

På bakgrunn av disse teoriene, mener forskerne menneskeheten bør fortsette utviklingen forsiktig, hvis i det hele tatt, mot målet om bedre utviklet kunstig intelligens.