Meny

Fremtiden blir som en Kafka-roman om vi ikke demokratiserer AI

Demonstrasjon av et system fra den kinesiske bedriften Watrix, som skal kunne identifisere personer basert på kroppsholdning. Programmet er del av en større satsing på AI-teknologi og dataovervåkning i Kina. NTB Scanpix/AP.
Stemmer: Stephen Cave - The Guardian
Spaltist i The Guardian

Delta i debatten

Send oss gjerne forslag til kronikker vi kan publisere.
Formen bør være kronikk/kommentar/blogginnlegg med maks 1000 ord.

E-post: stemmer@abcnyheter.no

Historien om kunstig intelligens er uløselig forbundet med stats- og kapitalmakt. Den må omskrives – og gjenspeile de som til nå er ekskludert.

Se for deg et system med stor inngripen i enkeltpersoners liv – og til og med påvirker beslutninger om liv og død. Tenk deg at systemet er komplekst og uoversiktlig: det sorterer folk i vinnere og tapere, men kriteriene som det sorterer utfra blir aldri klart definert. De som vurderes vet ikke hvilke data systemet har samlet om dem, eller hvilke data de blir sammenlignet med. Og ingen er villig til å ta ansvar for systemets avgjørelser – alle hevder at de kun fyller sin egen lille bit av maskineriet.

Dette er Franz Kafkas visjon som kommer til uttrykk i romanen Prosessen fra 1915. I boken gir Kafka oss en parodisk fortelling om et møte med apparatet i et likegyldig byråkrati. Hovedpersonen, Josef K, vet ikke hvorfor han har blitt arrestert, eller hva beviset mot ham er. Ingen er villig til å ta ansvar for avgjørelsen, eller å gi ham en ordentlig redegjørelse for hvordan systemet fungerer. Det hele slutter dystert, med Josef K fullstendig beseiret og avfunnet med sin skjebne.

Stadig mer innflytelsesrik AI

Kunstig intelligens

  • Forsknings- og utviklingsfelt innenfor datateknologien som benytter teoretiske og eksperimentelle dataverktøy til å studere intelligent atferd, og som bruker resultatene til å konstruere datasystemer som er «intelligente» i den forstand at de er i stand til å løse problemer og lære av egne erfaringer.
  • Større bedrifter og offentlige myndigheter i mange land satser store summer på grunnforskning og produktutvikling. Militær bruk står sentralt, men også næringslivet og utdanningssektoren ser store muligheter for å oppnå rasjonell drift og konkurransefortrinn ved å anvende kunstig intelligens-teknologi.

(Kilde: SNL)

Spol 100 år fremover i tid. Kunstig intelligens og datadrevne systemer er ofte portrettert på lignende måter av sine kritikerne: stadig mer innflytelsesrike, likevel obskure og ansvarspulveriserende. Dette er ikke tilfeldig. Det er en direkte sammenheng mellom Josef K's rettssak og de etiske og politiske spørsmålene som oppstår i lyset av kunstig intelligens. I motsetning til hva mange vil ha oss til å tro, har denne teknologien vist seg å være langt fra ferdig utviklet de siste par årene. Som historikeren Jonnie Penn nylig påpekte har den en lang historie, dypt knyttet til stat- og kapitalmakt. AI-systemer ble i stor grad utviklet for å fremme interessene til de som betalte regningen: regjeringer, militære og store multinasjonale selskap.

Viktigst er at modellene for beslutningsprosesser som disse systemene forsøkte å automatisere ble tatt direkte fra disse miljøene. De to store pionerene bak kunstig intelligens, Alan Turing og John von Neumann, utviklet begge sine prototyper under andre verdenskrig. Den første universaldatamaskinen het Eniac. Dens aller første oppgave var å utføre beregninger for hydrogenbomben, under Von Neumanns oppsyn.

En robotarm plukker opp en ferdiglaget rett fra kjølelager ved restauranten Haidilao i Beijing, som skal være drevet av kunstig intelligens. NTB Scanpix/Reuters.

Byråkratiets intelligens

Med andre ord, «intelligens»-biten i «kunstig intelligens» er ikke det menneskelige individets intelligens - ikke komponistens, behandlerens eller legens - det er den systemiske intelligensen til byråkratiet. Det er maskinen som behandler enorme mengder data om folks liv, for så å kategorisere dem, klassifisere dem, ta beslutninger om dem og sette dem på sin plass. Problemene med AI ligner Kafka-staten fordi de er et produkt av den. Josef K ville umiddelbart anerkjenne «datamaskinen sier nei»-kulturen av vår tid.

Selvfølgelig finnes det utallige måter AI og tilhørende teknologier kan brukes til å styrke menneskeheten og individet: for eksempel ved å gi bedre medisinsk behandling til flere av oss, og til å gi tilgang til mange andre tjenester, fra digitale personlige assistenter til skreddersydd nettbasert læring.

Men samtidig risikerer de å implementere urett. Vel er de blant de nyeste og mest imponerende teknologiene, men likevel legemliggjør de tidligere tiders feil – reduksjonistisk systemisk tenkning og gamle institusjonaliserte fordommer.

Disse Kafka-liknende systemene vil automatisk videreføre eksisterende former for diskriminering, og til og med forverre dem.

Ett eksempel er Amazons tidligere rekrutteringsalgoritme som lærte av tidligere ansettelser hva slags personer selskapet vanligvis sysselsetter, og på grunnlag av dette nedgraderte nye søkere hvis CV’en viste at de var kvinner.

Vedlikeholder tradisjonell makt

For å få mest mulig ut av AI vil et avgjørende tiltak være å sikre at ulike stemmer er involvert i utvikling og innlæring. Dette inkluderer blant annet de som har blitt utelukket fra maktsystemene AI sprang ut fra, for eksempel kvinner. Det inkluderer de som ble kolonisert av dem, som mange av utviklingslandene og en rekke miljøer i den tredje verden. Og det inkluderer de som ble utsatt for dem, som fattige eller funksjonshemmede.

Utfordringene her er enorme. En rapport fra Verdens økonomiske forum som ble publisert i desember konkluderte med at kun 22 prosent av AI-fagfolk globalt er kvinner. Situasjonen for fargepersonell er like vanskelig. Forrige måned ble mer enn 100 forskere nektet visum til Canada for å delta på NeurIPS, en av de viktigste AI-konferansene. Siden mange av deltakerne kom fra Afrika, hadde dette særlig innvirkning på « Black in AI »-møtene, som skulle øke representasjonen i feltet.

Men det finnes også gode nyheter. Takket være USA-baserte forskeraktivistgrupper som AI Now Institute og Algorithmic Justice League , har viktigheten av å involvere marginaliserte grupper oppnådd aksept. I Storbritannia har det nystiftede Ada Lovelace Institute som et av sine tre hovedmål å «samle ulike stemmer» for å forme fremtidens AI-samfunn. Instituttet er godt rustet for jobben. Det er uavhengig, men likevel godt etablert i de rette kretser for å sikre at stemmene blir hørt. I tillegg kan det bygge videre på det veletablerte renommeet til stiftelsen som grunnla dem, Nuffield Foundation, og bringe etikk til vitenskapen.

De som historisk sett har blitt sviktet av maktsystemene, som Kafka - en tysktalende jøde med bopel i Praha - har alltid vært spesielt godt posisjonert for å anerkjenne systemets mangler, vilkårlighet og laster. Å inkludere disse stemmene vil derfor sikre at AI ikke bare gjør fremtiden mer effektiv, men også mer etisk.

• Stephen Cave er administrerende direktør ved the Leverhulme Centre for the Future of Intelligence ved University of Cambridge.


Oversatt av Inge Kvivik / ABC Nyheter / Pressworks © Guardian News & Media Limited

Les også:

En deltaker ved Kinas nasjonale kongressenter under CHAIN Cup i juni i fjor. En datamaskin med kunstig intelligens-programvare slo to grupper menneskelige leger i å korrekt identifisere sykdommer ved hjelp av magnetresonanstomografi. NTB Scanpix/AP.


Takk for at du abonnerer

Motta våre nyheter via Messenger

Jeg godtar brukvervilkårene
Stemmer
Populært