Antallet falske videoer – «deepfakes» – på nettet øker kraftig

Kristen Bell fikk sjokk da hun oppdaget at hun var offer for «deepfake porno»
Kristen Bell fikk sjokk da hun oppdaget at hun var offer for «deepfake porno» Foto: Willy Sanjuan / AP

Kjendiser får ansiktet sitt limt på kroppene til pornoskuespillere og politiske partier sprer falske nyheter i videoformat. – Hver eneste digitale kommunikasjonskanal står i fare for å bli undergravet, mener deepfake-ekspert.

«Falske nyheter» sprer seg raskere enn sanne nyheter på internettet. Det fant en studie fra The Massachusetts Institute of Technology (MIT) i 2018. Under det forrige presidentvalget i USA, kunne man for eksempel lese at «Pave Frans støtter Trump som USAs neste president!» og at «Hillary Clinton leder et pedofilinettverk».

Til tross for at ingen av disse sakene har grunnlag i fakta, ble lest av flere millioner mennesker.

Kreftforeningen om falske helsenyheter: – Bekymringsfullt

Men det er ikke bare tekst som kan formidle løgner. Nå må vi også begynne å dobbeltsjekke pålitligheten til videoene som dukker opp på veggene våre på sosiale medier. Det er på grunn av såkalte «deepfakes», videoer hvor en person manipuleres til å se ut som en annen ved hjelp av teknikker fra maskinlæring og kunstig intelligens. Som å gå med en bevegelig maske av en annen persons ansikt.

Skjermdump fra en deepfake av USAs president Donald Trump.
Skjermdump fra en deepfake av USAs president Donald Trump.

Dramatisk økning

En rapport fra selskapet Deeptrace, som forsker på såkalte «deepfakes», viser at antallet deepfakes nesten doblet seg i løpet av en syvmåneders-periode i fjor. Da lå antallet på 14.678 stykker. Det er mer enn åtte måneder siden nå.

Sjefsforsker og daglig leder i Deeptrace, Giorgio Patrini, begrunner den kraftige økningen med en demokratisering av verktøyene som kreves for å lage deepfakes. Tidligere har denne teknologien vært nokså utilgjengelig, men nå er det lansert flere programmer som gjør det enklere for hvem som helst å produsere en deepfake.

En annen grunn til at det hele tiden blir enklere å lage en deepfake er at det stadig finnes flere bilder av oss på nettet – og jo flere bilder, med forskjellige ansiktsuttrykk og fra forskjellige vinkler – desto mer troverdig blir deepfaken.

– Hver eneste digitale kommunikasjonskanal som samfunnet vårt er bygget på, om det er audio, video eller tekst, står i fare for å bli undergravet , skriver Giorgio Patrini på Deeptrace sin nettside.

(Saken fortsetter under videoen)

Se video: Manipulert Trump-video skapte reaksjoner:

Mest brukt i porno

Det mest overraskende funnet i rapporten er kanskje hva deepfakes brukes til. Mediumet har fått mest oppmerksomhet i media for bruk i politiske videoer, som da et politisk parti i Belgia publiserte en deepfake-video hvor de fremstilte det som om USAs president Donald Trump hadde sagt: «I had the balls to withdraw from the Paris climate agreement—and so should you» i 2018, noe Trump ikke har sagt.

Kristen Bell fikk sjokk da hun oppdaget at hun var offer for «deepfake porno» Foto: Willy Sanjuan / AP
Kristen Bell fikk sjokk da hun oppdaget at hun var offer for «deepfake porno» Foto: Willy Sanjuan / AP

Men det viser seg at hele 96 prosent av deepfakevideoene som Deeptrace klarte å oppdrive var brukt i pornografi.

– Vi fant ut at de fire største nettsidene dedikert til deepfake-porno hadde seertall på over 134 millioner, skriver Patrini.

Videoene er laget uten samtykke og bruker ofte ansiktene til kvinnelige kjendiser.

En av kjendisene som har opplevd å få ansiktet sitt limt over ansiktet til en pornoskuespiller, så det ser ut som henne, er skuespiller Kristen Bell.

– Jeg ble bare helt sjokkert, sier Bell til Vox.

– Det er vanskelig å tenke på at jeg blir utnyttet.

Men det er ikke bare kjendiser som risikerer å få ansiktet manipulert inn i en kontekst det ikke hører hjemme. Deeptrace fant også flere eksempler på at deepfake-teknologi ble brukt til å lage hevnporno, altså porno som publiseres uten samtykke for ydmyke en person. Tidligere har man brukt dette begrepet mest om eks-kjærester som publiserer nakenbilder eller videoer etter at man har slått opp, men deepfakes gjør det mulig å lage dette materialet selv. «På denne måten bidrar deepfakes til en lang historie av seksuell ydmykelse av kvinner», konkluderer Vox.

Se video: Nixons alternative Apollo 11-tale fant aldri sted:

Mer fra ABC Nyheter
Siste fra forsiden