Når maskinen får velge

Han heter Espen Skorstad og han er psykolog.

Vær alltid skeptisk til psykologer. De er de første du møter når en tragedie rammer og de siste du prater med før separasjonspapirene fylles ut. Heldigvis er psykologens makt stort sett begrenset til makt over ett enkelt menneske.

En begrensning som snart er i ferd med å opphøre, når psykologi kobles sammen med teknologi.

Espen Skorstad har bygget et milliardselskap, og nå presser han grensene innen bruk av teknologi for å rekruttere mennesker. Foto: Sebastian Lunde Ludvigsen

Espen Skorstad begynte å jobbe som klinisk psykolog i 2000. Men han mente det måtte være noe mer der ute.

18 år senere banker multinasjonale selskaper på døren til selskapet cut-e, som Skorstad grunnla sammen med Rudi Myrvang i 2003, og som etter partnerskap med et miljø i Tyskland er blitt verdensomspennende.

Det er historien om hvordan en norsk psykolog har flyttet grenser, men la oss begynne fra start:

– Da jeg var nyutdannet psykolog var alle arbeidpsykologiske tester og kartleggingsmetoder papirbaserte. Etter hvert som internett fikk sin utbredelse ble det vanlig å bruke web til slik tester. Men det var jo ikke fremskritt, det var bare de samme testene som ble gjort tilgjengelig via web. Vi mente det lå mye større muligheter der, derfor ble cut-e etablert i 2003.

Det cut-e gjorde var å lage tester som valgte veier underveis i intervjuet. Svarte du A på spørsmål 1, fikk du èn type spørsmål, svarte du B, fikk du andre spørsmål.

– Testene tilpasset seg respondenten og det vi drev med var jo egentlig kunstig intelligens, sier han og tømmer kaffekopp nummer to.

– Vi brukte bare ikke det begrepet.

– Skulle gjerne vært flue på veggen

Nå 15 år senere står vi foran et skred innen dette fagfeltet. Hvorfor?

Menneskesinnets reaksjoner og handlemønstre har opptatt forskere i flere hundre år allerede. Personlighetsforskningen er velutviklet. Intelligensforskningen er kommet langt. Og det er gjort hundrevis av studier på motivasjon. Det er ikke lenger en gåte hvorfor vi handler som vi gjør.

Vi vet når penger driver oss, og når det mister betydning. Vi vet at uskyldige kan forklare at de er gjerningsmenn og hvorfor dette skjer. Vi vet at grupper kan gjøre dumme ting sammen, som enkeltmennesket ikke er i stand til. Vi vet hvorfor kjøleskapsdøren går opp selv om kroppen har fått nok mat til både to og tre dager.

Vi vet alt dette, men tidligere har vi ikke hatt tilgang til selve gullet: Enorme mengder data fra folk flest. Som en maskin kan lese og forstå. Psykologi koblet med maskinlæring.

Skorstad tenker tilbake på sin egen tid som praktiserende klinisk psykolog. Spol tilbake til år 2000.

– Tenk deg at du er min pasient. Du forteller meg om ting du strever med. Familierelasjoner, jobb og venner. Jeg får høre lange fortellinger om din komplekse verden fra deg, men jeg har fortsatt bare en enkelt informasjonskilde – din egen virkelighetsbeskrivelse. Jeg skulle så gjerne vært flue på veggen hos deg. Observert deg sammen med din kone, fått vite hvordan arbeidsgiver behandler deg og hva slags relasjon du har til venner.

Les også: Kraftig økning i inkassogjelden

Fagetisk uforsvarlig

Skorstad blir entusiastisk: All denne informasjonen får vi tilgang til nå.

– Hvordan?

– Ved å kartlegge dine digitale fotavtrykk, kan vi se hvordan du kommuniserer, hvilke venner du har, hvilke innkjøp du gjør, hvilke nettsteder du besøker og hvilke TV-serier du ser. Alt dette forteller svært mye om hvem du er som person.

– La oss ta Facebook som eksempel, og begrense dette til hvilke innlegg du har trykket liker på. Denne informasjonen er mer avslørende enn du tror. Dersom du gir tilgang på ti av dine «likes», kan vi beskrive din personlighet like presist som din kollega; 65 likes kan fortelle like mye om din personlighet som det en god venn kan; 130 avslører like mye om deg som et familiemedlem; og på 280 likes er innsikten like dyp som det en ektefelle kan stille med. De fleste legger igjen rundt 225 «likes», så virksomheter som har tilgang på dette, kan predikere din personlighet omtrent like nøyaktig som ektefellen din.

Skorstads kilde på dette er forskning fra Kosinski, Stillwell & Graepel, publisert i 2013. I USA har noen ­arbeidsgivere begynt å be jobbsøkere om passord til deres Facebookprofil.

– Fagetisk er det selvsagt helt uforsvarlig, sier Skorstad. Det handler blant annet om personvern. Samtidig finnes det andre måter å utnytte denne informasjonen på som er både etisk forsvarlig og nyttig for alle parter.

Les også: Ap vil fjerne kontantstøtten for å finansiere likestilt foreldrepermisjon

Samfunnsansvar på agendaen

Dyp innsikt om mange mennesker, brukt i en jakt på den rette medarbeider, er nå i ferd med å bre om seg. Her ligger det uante muligheter og cut-e er iferd med å nå ut til verden med sin teknologi. Det globale telekomselskapet Vodafone satser friskt.

Under World Economic Forum i Davos tidligere i år presenterte toppsjefen et nytt prosjekt, utviklet av cut-e.

Prosjekt har fått navnet meMachine og lanseres på tirsdag i Brüssel av grunnleggeren av Wikipedia, Jimmy Wales.

Vodafone har samfunnsansvar høyt på agendaen og en av de tingene de ønsker å fokusere spesielt på, er arbeidsledighet i land de opererer i. Samtidig ønsker de å styrke egen merkevare.

Tjenesten som cut-e har utviklet for Vodafone gir unge mennesker spørsmål om de ønsker en analyse av seg selv basert på deres profil på sosiale medier. På bakgrunn av dette får de en overflatisk profil av egen personlighet og interesser. Om de ønsker å lære mer om seg selv, kan de fullføre mer vitenskapelige tester, som blant annet måler interesser, logisk resonnering, arbeidshukommelse, multitasking, også videre. Basert på svarene får respondentene enkle karriereveiledningstips, tilbud om gratis opplæring og forslag til aktuelle stillinger rundt omkring i verden, til alle typer jobber som måtte passe for personen. På denne måten etablerer Vodafone en plattform som både bidrar til redusert arbeidsledighet og øker oppmerksomheten rundt selskapet.

– Dette er en utrolig spennende måte å tenke på, som kombinerer talent, teknologi, samfunnsansvar og markedsføring, sier Skorstad entusiastisk.

– Vodafone tror selv 10 millioner mennesker vil bruke dette hvert år, særlig i Asia og Afrika.

Les også: Betydelig færre dør av hjerteinfarkt og hjerneslag

– Dette begynner å bli skummelt

Dette sprer om seg i Europa, men ingen norske aktører har ennå tatt dette i bruk. I Norge vil det bare være tre-fire selskaper som er store nok til at det er aktuelt. USA ligger etter på dette området.

Skorstad tar en pause.

– Men så er det det neste steget. Video! Dette begynner å bli skummelt.

Det begynner uskyldig. Video kan være et ekstremt effektivt verktøy for en rekrutterer eller en HR-ansvarlig. La oss si det var 200 søkere til en stilling, bosatt på ulike steder i landet, fra lengst nord i landet til lengst sør, hvorav 20 er plukket ut som finalekandidater. Hvordan går man så videre får å finne de tre beste?

Et videoverktøy fra cut-e gjør det mulig for kandidatene å gjennomføre intervjuene hjemmefra, uten å ta den lange reisen. De får alle samme jobbrelevante spørsmål opp på skjermen, ikke helt ulikt et ordinært intervju. Ingen trenger å ta fri fra jobben eller bestille flybilletter for å være med i kampen om den attraktive stillingen. Og HR-sjefen kan evaluere 20 stykker i en fei.

Men dette er den enkle fremstillingen. Det er mer.

– Paradata.

– Paradata?

– Paradata er den informasjonen du får om kandidaten i tillegg til de konkrete svarene som avgis. Det handler mer om hvordan du svarer. Hvor lang betenkningstid du tar, hvordan tonefallet ditt er, hvilke øyebevegelser du har, hvordan kroppsspråket ditt er og så videre. En maskin er i stand til å oppfatte langt mer enn den menneskelige hjernen - og det er grunn til å anta at paradata kan bli vel så viktig som selve innholdet i det som blir sagt. For eksempel om hvor troverdig kandidaten er.

– Merk at dette fortsatt er på et tidlig stadium, men vi har stor tro på at vi vil finne interessante mønstre i data etter hvert som vi får samlet inn store nok datamengder. Når det er sagt, fagfolk - også psykologer - hadde stor tillit til polygrafen, mer kjent som løgndetektoren, hvilket de hadde liten grunn til. Her er det med andre ord viktig å holde tunga rett i munnen, rent vitenskapelig.

Les også: Dette er det lykkeligste landet i 2018

Maskin avslørte homofile

Skorstad samarbeider med noen av de mest fremtredende i verden på dette feltet. En av dem er Michal Kosinski.

Kosinski er professor ved Stanford University og skapte storm i fjor, etter å ha publisert forskning som viste at kunstig intelligens kombinert med video kan fortelle om en person er homoseksuell eller heteroseksuell. Forskningen ble gjort gjennom en sjekkeapp, og maskinen traff riktig i 91 prosent av tilfellene.

Michael Kosinski har vist hvordan digitale spor kan avdekke folks personlighet. I et forskningsperspektiv greide en maskin å anslå folks legning med en treffsikkerhet på 90 prosent. Denne teknologien kan være på vei inn i arbeidslivet Foto: Scanpix

De enorme mulighetene som Skorstad og cut-e står overfor er at kombinasjonen av video og kunstig intelligens kan avdekke og avsløre personen som blir intervjuet.

Kosinski har vist at kunstig intelligens kan avdekke politiske standpunkt og sannsynligheten for at vi kan begå en kriminell handling i fremtiden. Disse muligheten reiser selvsagt enorme etiske dilemmaer.

– Kosinski har opplevd en storm i etterkant og vi må selvsagt hele tiden vurdere de etiske sidene av det vi gjør. Vi har kjent hverandre lenge. Blant annet forsker han på hvordan vi opptrer på internett, og hva denne atferden sier om oss, ut fra personlighet, intelligens, politisk ståsted, seksuell legning, også videre, sier Skorstad.

– Han er opptatt av å dokumentere hvor mye informasjon vi frivillig legger fra oss – og hva maskinene er i stand til å oppdage. Han har vitenskapelige artikler bak seg som har fått hår til å reise seg. Blant annet klarte å han å dokumentere at en maskin klarer å observere langt mer ved å studere et ansikt enn et menneske klarer. Forskningen har gitt ham store problemer i etterkant, ikke minst på grunn av lobbyister som etterspør hva man skal med denne type forskning og de etiske implikasjonene av det. Det råder liten tvil om at dette er et minefelt.

Les også: 11 tegn på at noen lyver til deg

Algoritmene kopierer fordommer

Algoritmene er ekstremt effektive, men også et samfunnsproblem.

– Tenk deg at du ønsker å la maskinene velge ut de mest suksessfulle forretningsadvokatene i Norge. Algoritmen ville basert på eksisterende mønstre kanskje funnet at den perfekte advokaten var mann, 1.86 cm høy, hadde høyt O2-opptak og bodde på Bestum.

– En maskin som reproduserer stereotyper er det motsatte av hva vi ønsker.

Dette vet vi allerede fra Google. I USA er det vist hvordan man får opp annonser for helt ulike bedrifter om man logger inn med et typisk afroamerikansk navn som «Tyrone» eller «Latoyah», sammenlignet med om man logger inn med et typisk anglosaksisk navn som «Anthony» eller «Kirsten». Algoritmene kopierer fordommer. Det ligger potensiell diskriminering i algoritmer, noe som er godt dokumentert i den nye boka «Algorithms of oppression».

– Hva slags protester opplever dere i dag, fra samfunnet og psykolog-standen?

Personlighetstester krysses nå med kunstig intelligens, for å plukke mennesker som skal inn i viktige posisjoner. Foto: Dreamtime

– Hverken HR eller psykologer er blant de yrkesgruppene som er kjent for å ligge spesielt langt fremme teknologisk. Mange av disse har dessuten valgt seg til sine respektive fagfelt fordi de mener de besitter enkelte mellommenneskelige ferdigheter som gjør de spesielt godt skikket - og følgelig at de tar bedre ansettelsesbeslutninger enn andre. At en maskin skal kunne erstatte jobbintervjuet, vil for mange fremstå som helt utenkelig.

– Videoteknologi vil dessuten også innebære en effektivisering, som kan føre til at noen uroer seg for jobbene sine. Personlig er jeg langt fra religiøs med tanke på teknologiens utvikling, men jeg er sikker på at bruk av teknologi vil kunne både styrke beslutningsgrunnlaget ved ansettelser og effektivisere arbeidsprosessene. I nær fremtid tror jeg den som gjennomfører et jobbintervju uansett vil foretrekke å ha med seg en datamaskin inn i intervjuet, om ikke annet for å få tilgang på paradata.

– Du har utviklet et ekstremt verktøy for utvelgelse av mennesker. Hvordan ville du selv gjort det i testen?

– Det skal jeg være ærlig på. Jeg hadde ikke fått jobb i cut-e i dag, ikke sjans. Vi er en veldig attraktiv arbeidsgiver og vi får et tresifret antall søkere hver gang vi utlyser.

– Hva forteller det deg om disse testene?

– At vi trenger ulike mennesker i ulike roller. Gründeren har ikke de samme egenskapene som en forretningsutvikler, for eksempel. Det forteller også at vår egen medisin hjelper. Vi hadde aldri klart å komme dit vi er i dag, uten et helt fantastisk team.

Hans drøm er å utvikle det ultimate verktøyet for å finne frem til den perfekte gründer.

– Jeg har en drøm om å utvikle en algoritme som kan avdekke trekkene til en suksessgründer. Det er mye tro, håp og kjærlighet der ute i dag.

Saken er opprinnelig publisert i Finansavisen lørdag 17. mars