Fremtiden blir som en Kafka-roman om vi ikke demokratiserer AI

Demonstrasjon av et system fra den kinesiske bedriften Watrix, som skal kunne identifisere personer basert på kroppsholdning. Programmet er del av en større satsing på AI-teknologi og dataovervåkning i Kina. NTB Scanpix/AP.
Demonstrasjon av et system fra den kinesiske bedriften Watrix, som skal kunne identifisere personer basert på kroppsholdning. Programmet er del av en større satsing på AI-teknologi og dataovervåkning i Kina. NTB Scanpix/AP.

Historien om kunstig intelligens er uløselig forbundet med stats- og kapitalmakt. Den må omskrives – og gjenspeile de som til nå er ekskludert.

Stemmer: Stephen Cave - The Guardian
Spaltist i The Guardian

Delta i debatten

Send oss gjerne forslag til kronikker vi kan publisere.
Formen bør være kronikk/kommentar/blogginnlegg med maks 1000 ord.

E-post: stemmer@abcnyheter.no

Se for deg et system med stor inngripen i enkeltpersoners liv – og til og med påvirker beslutninger om liv og død. Tenk deg at systemet er komplekst og uoversiktlig: det sorterer folk i vinnere og tapere, men kriteriene som det sorterer utfra blir aldri klart definert. De som vurderes vet ikke hvilke data systemet har samlet om dem, eller hvilke data de blir sammenlignet med. Og ingen er villig til å ta ansvar for systemets avgjørelser – alle hevder at de kun fyller sin egen lille bit av maskineriet.

Dette er Franz Kafkas visjon som kommer til uttrykk i romanen Prosessen fra 1915. I boken gir Kafka oss en parodisk fortelling om et møte med apparatet i et likegyldig byråkrati. Hovedpersonen, Josef K, vet ikke hvorfor han har blitt arrestert, eller hva beviset mot ham er. Ingen er villig til å ta ansvar for avgjørelsen, eller å gi ham en ordentlig redegjørelse for hvordan systemet fungerer. Det hele slutter dystert, med Josef K fullstendig beseiret og avfunnet med sin skjebne.

Stadig mer innflytelsesrik AI

Kunstig intelligens

  • Forsknings- og utviklingsfelt innenfor datateknologien som benytter teoretiske og eksperimentelle dataverktøy til å studere intelligent atferd, og som bruker resultatene til å konstruere datasystemer som er «intelligente» i den forstand at de er i stand til å løse problemer og lære av egne erfaringer.
  • Større bedrifter og offentlige myndigheter i mange land satser store summer på grunnforskning og produktutvikling. Militær bruk står sentralt, men også næringslivet og utdanningssektoren ser store muligheter for å oppnå rasjonell drift og konkurransefortrinn ved å anvende kunstig intelligens-teknologi.

(Kilde: SNL)

Spol 100 år fremover i tid. Kunstig intelligens og datadrevne systemer er ofte portrettert på lignende måter av sine kritikerne: stadig mer innflytelsesrike, likevel obskure og ansvarspulveriserende. Dette er ikke tilfeldig. Det er en direkte sammenheng mellom Josef K's rettssak og de etiske og politiske spørsmålene som oppstår i lyset av kunstig intelligens. I motsetning til hva mange vil ha oss til å tro, har denne teknologien vist seg å være langt fra ferdig utviklet de siste par årene. Som historikeren Jonnie Penn nylig påpekte har den en lang historie, dypt knyttet til stat- og kapitalmakt. AI-systemer ble i stor grad utviklet for å fremme interessene til de som betalte regningen: regjeringer, militære og store multinasjonale selskap.

Viktigst er at modellene for beslutningsprosesser som disse systemene forsøkte å automatisere ble tatt direkte fra disse miljøene. De to store pionerene bak kunstig intelligens, Alan Turing og John von Neumann, utviklet begge sine prototyper under andre verdenskrig. Den første universaldatamaskinen het Eniac. Dens aller første oppgave var å utføre beregninger for hydrogenbomben, under Von Neumanns oppsyn.

En robotarm plukker opp en ferdiglaget rett fra kjølelager ved restauranten Haidilao i Beijing, som skal være drevet av kunstig intelligens. NTB Scanpix/Reuters.
En robotarm plukker opp en ferdiglaget rett fra kjølelager ved restauranten Haidilao i Beijing, som skal være drevet av kunstig intelligens. NTB Scanpix/Reuters.

Byråkratiets intelligens

Med andre ord, «intelligens»-biten i «kunstig intelligens» er ikke det menneskelige individets intelligens - ikke komponistens, behandlerens eller legens - det er den systemiske intelligensen til byråkratiet. Det er maskinen som behandler enorme mengder data om folks liv, for så å kategorisere dem, klassifisere dem, ta beslutninger om dem og sette dem på sin plass. Problemene med AI ligner Kafka-staten fordi de er et produkt av den. Josef K ville umiddelbart anerkjenne «datamaskinen sier nei»-kulturen av vår tid.

Selvfølgelig finnes det utallige måter AI og tilhørende teknologier kan brukes til å styrke menneskeheten og individet: for eksempel ved å gi bedre medisinsk behandling til flere av oss, og til å gi tilgang til mange andre tjenester, fra digitale personlige assistenter til skreddersydd nettbasert læring.

Men samtidig risikerer de å implementere urett. Vel er de blant de nyeste og mest imponerende teknologiene, men likevel legemliggjør de tidligere tiders feil – reduksjonistisk systemisk tenkning og gamle institusjonaliserte fordommer.

Disse Kafka-liknende systemene vil automatisk videreføre eksisterende former for diskriminering, og til og med forverre dem.

Ett eksempel er Amazons tidligere rekrutteringsalgoritme som lærte av tidligere ansettelser hva slags personer selskapet vanligvis sysselsetter, og på grunnlag av dette nedgraderte nye søkere hvis CV’en viste at de var kvinner.

Vedlikeholder tradisjonell makt

For å få mest mulig ut av AI vil et avgjørende tiltak være å sikre at ulike stemmer er involvert i utvikling og innlæring. Dette inkluderer blant annet de som har blitt utelukket fra maktsystemene AI sprang ut fra, for eksempel kvinner. Det inkluderer de som ble kolonisert av dem, som mange av utviklingslandene og en rekke miljøer i den tredje verden. Og det inkluderer de som ble utsatt for dem, som fattige eller funksjonshemmede.

Utfordringene her er enorme. En rapport fra Verdens økonomiske forum som ble publisert i desember konkluderte med at kun 22 prosent av AI-fagfolk globalt er kvinner. Situasjonen for fargepersonell er like vanskelig. Forrige måned ble mer enn 100 forskere nektet visum til Canada for å delta på NeurIPS, en av de viktigste AI-konferansene. Siden mange av deltakerne kom fra Afrika, hadde dette særlig innvirkning på « Black in AI »-møtene, som skulle øke representasjonen i feltet.

Men det finnes også gode nyheter. Takket være USA-baserte forskeraktivistgrupper som AI Now Institute og Algorithmic Justice League , har viktigheten av å involvere marginaliserte grupper oppnådd aksept. I Storbritannia har det nystiftede Ada Lovelace Institute som et av sine tre hovedmål å «samle ulike stemmer» for å forme fremtidens AI-samfunn. Instituttet er godt rustet for jobben. Det er uavhengig, men likevel godt etablert i de rette kretser for å sikre at stemmene blir hørt. I tillegg kan det bygge videre på det veletablerte renommeet til stiftelsen som grunnla dem, Nuffield Foundation, og bringe etikk til vitenskapen.

De som historisk sett har blitt sviktet av maktsystemene, som Kafka - en tysktalende jøde med bopel i Praha - har alltid vært spesielt godt posisjonert for å anerkjenne systemets mangler, vilkårlighet og laster. Å inkludere disse stemmene vil derfor sikre at AI ikke bare gjør fremtiden mer effektiv, men også mer etisk.

• Stephen Cave er administrerende direktør ved the Leverhulme Centre for the Future of Intelligence ved University of Cambridge.


Oversatt av Inge Kvivik / ABC Nyheter / Pressworks © Guardian News & Media Limited

Les også:

En deltaker ved Kinas nasjonale kongressenter under CHAIN Cup i juni i fjor. En datamaskin med kunstig intelligens-programvare slo to grupper menneskelige leger i å korrekt identifisere sykdommer ved hjelp av magnetresonanstomografi. NTB Scanpix/AP.
En deltaker ved Kinas nasjonale kongressenter under CHAIN Cup i juni i fjor. En datamaskin med kunstig intelligens-programvare slo to grupper menneskelige leger i å korrekt identifisere sykdommer ved hjelp av magnetresonanstomografi. NTB Scanpix/AP.


Mer fra ABC Nyheter
Siste fra forsiden
18:47 Harald Stanghelle overtar som leder av Arendalsuka18:31 ACER-saken: – Ga bort norsk suverenitet i strid med Grunnloven17:51 Märtha Louise vil ha bedre trafikksikkerhet for hester17:49 Russland forblir utestengt av Det internasjonale friidrettsforbundet17:42 Hareide tilbake etter sykdom: – Det har vært skikkelig tøft17:40 FN-ekspert ber Norge slutte å lete etter mer olje17:16 Bakken raste sammen på Helsfyr i Oslo17:12 Reiselivsekspert mener Thomas Cook-konkurs er en gavepakke til konkurrentene16:46 Russland skal forklare uoverensstemmelser i dopingdata16:35 Sjøvegan-drapet: Deler av TV-program skal spilles av i retten16:22 Ving advarer kunder mot svindelforsøk16:18 FN bekrefter grunnlovskomité i Syria16:15 Fortsatt isolasjon for Manshaus16:13 Politijakt etter melding om apotekran i Kristiansand16:05 I retten for å bryte Norsk Tippings spillmonopol16:00 Fire EU-land enige om fordeling av asylsøkere15:54 Raja har fått nye hatbrev: Reis «hjem» og ta med deg Hadia Tajik!15:53 25-åring dømt for sjalusidrap i Oslo15:49 Rasende Greta Thunberg til FN-eliten: Hvordan våger dere?!15:42 Priors røkte kalkunfilet kalles tilbake14:47 Solskjær er presset: – Han må gi blaffen14:35 Labradoren «Jed» fant 10 kilo amfetamin i en skoeske13:09 Bompenge-generalen tapte og vant strid i Oslo12:37 Mattilsynet har fått seks nye meldinger om syke hunder12:24 Svensk tankskip frigitt i Iran12:11 – Utbruddet vil komme om kort tid12:06 Mann pågrepet etter bombetrussel mot Jessheim Storsenter11:58 PST vil tiltale Waras samboer for angrep mot statsmakten11:10 Hanne fortviler etter avlyst ferie: – De kunne i hvert fall sendt en SMS10:54 Arbeiderpartiet vil gi utviklingshemmede en jobbgaranti09:42 Hellas ber om hjelp etter at leir på Lesvos stengte porten for nye asylsøkere09:40 Sju elever omkom da skole raste sammen i Kenya09:30 Kinesisk storeier skuffet over Thomas Cook-konkurs09:19 Ving: Jobber intensivt for at alle skal komme hjem raskt09:19 Halvparten av luftambulanseoppdragene er i nord09:05 Tyske Condor flyr videre til tross for konkurs09:00 Ving-kunder i Trøndelag må bli hjemme08:57 Norges avtale nesten i boks – avtalen med EU amazonas-blokkert08:36 Analytiker: Flere grunner til Thomas Cook-konkurs08:25 Menneskerettsadvokat pågrepet i Egypt08:11 Tornado-fly mistet to drivstofftanker08:03 Johnson ville ikke komme Thomas Cook til unnsetning07:44 Reisegarantifondet: Har kontroll på hvor folk oppholder seg07:37 Krisemøter i Ving07:37 Boris Johnson gir Iran skylden for oljeangrep i Saudi-Arabia07:36 «Game of Thrones» tronet under Emmy-utdelingen07:09 Leger Uten Grenser anklager WHO for rasjonering av ebolavaksine i Kongo07:00 Ny statistikkbase: Oslo og Finnmark på voldstoppen06:03 Thomas Cook slått konkurs – hundretusener av turister rammes05:50 Dette skjer i dag05:47 Dette skjedde i natt05:30 Arbeiderpartiet vil gi utviklingshemmede en jobbgaranti04:56 Flyktninger reiser tilbake til Eritrea04:48 Demokrater vil stille Trump for riksrett04:24 Tre Emmy-priser til «Chernobyl»03:40 Flere på fulltid i byggebransjen03:06 Emmy åpnet med priser til «Mrs. Maisel»02:43 Van Gogh-verk solgt på auksjon i Belgia02:03 Gründere ber om fiskeforbud ved undervannsrestaurant01:31 Italia tar imot 182 mennesker reddet i Middelhavet01:15 Danske pensjonsselskaper øremerker 350 milliarder til grønn omstilling00:27 Ny uke med storstreik i amerikansk bilindustri23:40 Skrantende Thomas Cook får ingen løfter av britenes regjering23:33 Fare for sykehusstreik fra tirsdag22:48 Egypt advarer journalister som dekker demonstrasjonene mot presidenten22:17 Her begraver de isbreen21:59 Rosenborg snudde og vant mot Mjøndalen21:46 2015-2019: Varmeste femårsperiode på 150 år21:44 Bendtner hyllet i hjemmedebuten, men 0-0 i toppkampen21:26 To personer reddet fra synkende seilbåt i Rogaland21:17 Kallmyr toner ned dronetrusselen mot norsk olje og gass20:43 For første gang leder Elizabeth Warren over Biden20:21 18-åring i storform da Odd vant over Sarpsborg20:19 Viking ydmyket Vålerenga, vant 4-0 i Oslo20:18 Strømsgodset tok viktig borteseier mot Tromsø20:17 Opptur for Lillestrøm, nedtur for Kristiansund etter 1-120:16 Bunnlaget Ranheim satte kjepper i hjulene for gulljagende Glimt19:46 Dette er fotavtrykket til en neandertaler19:29 Liverpool fortsatte den perfekte sesongstarten med seier over Chelsea19:01 Mann i 40-årene påkjørt i fotgjengerfelt i Lyngdal18:57 Svenskeid tankskip blir frigitt i Iran18:54 Solberg om plass i Sikkerhetsrådet: – Det er bare Norge som kan ivareta norske interesser18:08 Kjedekollisjon på E617:39 Arbeidsrettsadvokat mener Felleskjøpet-streiken er lovlig17:30 Havarikommisjonen skal undersøke båtulykke i Harstad17:25 Start ble ydmyket og tapte for første gang siden juni17:17 Hvordan klarer et så lite parti å krangle så mye?16:58 Trump har ingen intensjon om å møte iranere16:56 Manchester United senket av et effektivt West Ham16:51 Celtic og Ajer vendte til ny seier16:43 Solberg ble vist Equinors havvindfelt i New York16:05 Spinnvill Ødegaard-assist da Real Sociedad vant igjen15:23 Russer frigjorde Finnmark som 15-åring – nå kan han få norsk medalje15:21 Supporterbråk før HamKam møtte Start15:10 Gresk politi har pågrepet angivelig flykaprer15:00 Båtbrann i Halden sentrum spredde seg til brygge og bil14:34 Kvikkleire funnet flere steder rundt rasstedet i Nittedal14:12 Nye sammenstøt mellom demonstranter og politi i Hongkong13:57 Virus drepte en halv milliard og ble utryddet. Nesten13:46 Minst fem skutt på swingersklubb i Kansas
Siste nytt
18:47PengerHarald Stanghelle overtar som leder av Arendalsuka18:31PolitikkACER-saken: – Ga bort norsk suverenitet i strid med Grunnloven17:51SportMärtha Louise vil ha bedre trafikksikkerhet for hester17:49SportRussland forblir utestengt av Det internasjonale friidrettsforbundet17:42Helse og livsstilHareide tilbake etter sykdom: – Det har vært skikkelig tøft17:40VerdenFN-ekspert ber Norge slutte å lete etter mer olje17:16NorgeBakken raste sammen på Helsfyr i Oslo17:12PengerReiselivsekspert mener Thomas Cook-konkurs er en gavepakke til konkurrentene16:46SportRussland skal forklare uoverensstemmelser i dopingdata16:35NorgeSjøvegan-drapet: Deler av TV-program skal spilles av i retten16:22PengerVing advarer kunder mot svindelforsøk16:18VerdenFN bekrefter grunnlovskomité i Syria16:15NorgeFortsatt isolasjon for Manshaus16:13NorgePolitijakt etter melding om apotekran i Kristiansand16:05PengerI retten for å bryte Norsk Tippings spillmonopol16:00VerdenFire EU-land enige om fordeling av asylsøkere15:54PolitikkRaja har fått nye hatbrev: Reis «hjem» og ta med deg Hadia Tajik!15:53Norge25-åring dømt for sjalusidrap i Oslo15:49NorgeRasende Greta Thunberg til FN-eliten: Hvordan våger dere?!15:42PengerPriors røkte kalkunfilet kalles tilbake14:47SportSolskjær er presset: – Han må gi blaffen14:35NorgeLabradoren «Jed» fant 10 kilo amfetamin i en skoeske13:09PolitikkBompenge-generalen tapte og vant strid i Oslo12:37NorgeMattilsynet har fått seks nye meldinger om syke hunder12:24VerdenSvensk tankskip frigitt i Iran12:11Verden– Utbruddet vil komme om kort tid12:06NorgeMann pågrepet etter bombetrussel mot Jessheim Storsenter11:58NorgePST vil tiltale Waras samboer for angrep mot statsmakten11:10ReiseHanne fortviler etter avlyst ferie: – De kunne i hvert fall sendt en SMS10:54PolitikkArbeiderpartiet vil gi utviklingshemmede en jobbgaranti09:42VerdenHellas ber om hjelp etter at leir på Lesvos stengte porten for nye asylsøkere09:40VerdenSju elever omkom da skole raste sammen i Kenya09:30VerdenKinesisk storeier skuffet over Thomas Cook-konkurs09:19ReiseVing: Jobber intensivt for at alle skal komme hjem raskt09:19NorgeHalvparten av luftambulanseoppdragene er i nord09:05VerdenTyske Condor flyr videre til tross for konkurs09:00NorgeVing-kunder i Trøndelag må bli hjemme08:57PengerNorges avtale nesten i boks – avtalen med EU amazonas-blokkert08:36VerdenAnalytiker: Flere grunner til Thomas Cook-konkurs08:25VerdenMenneskerettsadvokat pågrepet i Egypt08:11VerdenTornado-fly mistet to drivstofftanker08:03VerdenJohnson ville ikke komme Thomas Cook til unnsetning07:44NorgeReisegarantifondet: Har kontroll på hvor folk oppholder seg07:37NorgeKrisemøter i Ving07:37VerdenBoris Johnson gir Iran skylden for oljeangrep i Saudi-Arabia07:36Verden«Game of Thrones» tronet under Emmy-utdelingen07:09VerdenLeger Uten Grenser anklager WHO for rasjonering av ebolavaksine i Kongo07:00NorgeNy statistikkbase: Oslo og Finnmark på voldstoppen06:03VerdenThomas Cook slått konkurs – hundretusener av turister rammes05:50NorgeDette skjer i dag05:47NorgeDette skjedde i natt05:30NorgeArbeiderpartiet vil gi utviklingshemmede en jobbgaranti04:56NorgeFlyktninger reiser tilbake til Eritrea04:48VerdenDemokrater vil stille Trump for riksrett04:24VerdenTre Emmy-priser til «Chernobyl»03:40NorgeFlere på fulltid i byggebransjen03:06VerdenEmmy åpnet med priser til «Mrs. Maisel»02:43VerdenVan Gogh-verk solgt på auksjon i Belgia02:03NorgeGründere ber om fiskeforbud ved undervannsrestaurant01:31VerdenItalia tar imot 182 mennesker reddet i Middelhavet01:15VerdenDanske pensjonsselskaper øremerker 350 milliarder til grønn omstilling00:27VerdenNy uke med storstreik i amerikansk bilindustri23:40VerdenSkrantende Thomas Cook får ingen løfter av britenes regjering23:33NorgeFare for sykehusstreik fra tirsdag22:48PolitikkEgypt advarer journalister som dekker demonstrasjonene mot presidenten22:17VerdenHer begraver de isbreen21:59SportRosenborg snudde og vant mot Mjøndalen21:46Verden2015-2019: Varmeste femårsperiode på 150 år21:44NorgeBendtner hyllet i hjemmedebuten, men 0-0 i toppkampen21:26NorgeTo personer reddet fra synkende seilbåt i Rogaland21:17NorgeKallmyr toner ned dronetrusselen mot norsk olje og gass20:43PolitikkFor første gang leder Elizabeth Warren over Biden20:21Sport18-åring i storform da Odd vant over Sarpsborg20:19SportViking ydmyket Vålerenga, vant 4-0 i Oslo20:18SportStrømsgodset tok viktig borteseier mot Tromsø20:17SportOpptur for Lillestrøm, nedtur for Kristiansund etter 1-120:16SportBunnlaget Ranheim satte kjepper i hjulene for gulljagende Glimt19:46Helse og livsstilDette er fotavtrykket til en neandertaler19:29SportLiverpool fortsatte den perfekte sesongstarten med seier over Chelsea19:01NorgeMann i 40-årene påkjørt i fotgjengerfelt i Lyngdal18:57VerdenSvenskeid tankskip blir frigitt i Iran18:54PolitikkSolberg om plass i Sikkerhetsrådet: – Det er bare Norge som kan ivareta norske interesser18:08NorgeKjedekollisjon på E617:39PengerArbeidsrettsadvokat mener Felleskjøpet-streiken er lovlig17:30NorgeHavarikommisjonen skal undersøke båtulykke i Harstad17:25SportStart ble ydmyket og tapte for første gang siden juni17:17PolitikkHvordan klarer et så lite parti å krangle så mye?16:58VerdenTrump har ingen intensjon om å møte iranere16:56SportManchester United senket av et effektivt West Ham16:51SportCeltic og Ajer vendte til ny seier16:43PolitikkSolberg ble vist Equinors havvindfelt i New York16:05SportSpinnvill Ødegaard-assist da Real Sociedad vant igjen15:23NorgeRusser frigjorde Finnmark som 15-åring – nå kan han få norsk medalje15:21NorgeSupporterbråk før HamKam møtte Start15:10VerdenGresk politi har pågrepet angivelig flykaprer15:00NorgeBåtbrann i Halden sentrum spredde seg til brygge og bil14:34NorgeKvikkleire funnet flere steder rundt rasstedet i Nittedal14:12VerdenNye sammenstøt mellom demonstranter og politi i Hongkong13:57Helse og livsstilVirus drepte en halv milliard og ble utryddet. Nesten13:46VerdenMinst fem skutt på swingersklubb i Kansas
Populært