Meny

Deepfakes:

Porno og psykologisk krigføring

Video: Carnegie Mellon University demonstrerer hvordan teknikken brukes.

– Poengløst å ta opp kampen mot deepfakes, sier skuespiller Scarlett Johansson. Hennes ansikt har blitt misbrukt i titalls forfalskede pornovideoer på nett.

De kalles Deep Fakes; digitalt manipulerte videoer og bilder som kan være så overbevisende at de knapt kan skilles fra den ekte varen.

På samme måte som programmet Photoshop gjorde det lett å tilpasse og eventuelt forfalske bilder vil deepfake-programvaren gjøre denne formen for manipulasjon enklere, mer tilgjengelig for privatpersoner og stadig vanskeligere å påvise, skriver CNET.

Den tidligere amerikanske sikkerhetsministeren, Michael Chertoff mener utviklingen kan gå svært raskt:

– Allerede i 2020 kan vi ha nådd et punkt der kun eksperter eller spesialisert programvare vil kunne blinke ut forfalskede videoer av dette slaget, sier han til Reuters. Chertoff var statsråd i president George W. Bushs regjering, og er i dag del av ledelsen for Den transatlantiske komiteen for valgsikring. Han mener deepfake-videoer kan underminere eller forstyrre fremtidige valg på en rekke vis.

Dette kan for eksempel være fabrikkerte videoer som foregir seg å vise synder en politiker har begått.

Les også: Det hvite hus kan ha delt manipulert videoopptak fra opphetet pressekonferanse

Kunstig intelligens

Videoene utgjør et stort sprang fra enklere billedmanipulasjon, og tar i bruk nyvinninger innen kunstig intelligens.

Med slik teknologi og kompetanse kan man fremstille det som virkelige mennesker sier og gjør noe de slett aldri har gjort. Fenomenet skjerper kravene til publikums kildekritikk og årvåkenhet ytterligere, i en tid der oppmerksomheten om og forståelsen av desinformasjon heldigvis er økende.

Den tidligere sjefen for USAs departement for innenriks sikkerhet Michael Chertoff. NTB Scanpix/AFP.

Seniorrådgiver i Norsk senter for informasjonssikring (NorSIS), Vidar Sandland, sier til ABC Nyheter at senteret foreløpig ikke har mottatt bekymringsmeldinger om deepfakes blant de over 8000 norske henvendelsene de mottar årlig.

Men hva skiller egentlig «deepfakes» fra spesialeffekter filmbransjen har brukt i tiår?

Datateknologi har for lengst blitt brukt til å bringe avdøde skuespillere «til live» på lerretet, som med avdøde Carrie Fisher i den nyeste Star Wars-filmen.

Flere eksperter og medier har advart om at teknologien blir stadig lettere tilgjengelig, og ikke lenger er forbeholdt profesjonelle filmskapere. Sandland stiller seg mer tvilende:

– Selv om deepfakes har blitt fremstilt som enkle å lage er det foreløpig langt fra tilfellet. Dette krever fortsatt høy teknisk kompetanse, sier seniorrådgiveren.

Å fremstille en slik video kan ta fra timer til dager.

Kjendis-porno

Seniorrådgiver Vidar Sandland i NorSIS. Foto: NorSIS.

Media og myndigheter har fokusert på risikoen for bruk av deepfakes i politisk propaganda, men teknologien er foreløpig mest kjent fra konstruerte kjendisvideoer på pornonettsteder, heter det i en kommentarartikkel hos Forbes.

En bruker av nettstedet Reddit bidro til offentlighetens bevissthet om fenomenet da vedkommende begynte å laste opp kjendisporno laget ved hjelp av kunstig intelligens i desember 2017.

– Da vi først hørte om fenomenet i 2017 trodde vi for eksempel det kunne bli brukt til «hevnporno» mot folk i Norge. Det har foreløpig ikke skjedd etter hva vi kjenner til, sier Sandland i NorSIS.

Tjenesten FakeApp og gratis programvare som TensorFlow er eksempler på verktøy som har blitt brukt til å fremstille forfalskede sex-videoer av kjendiser, med ofre som Emma Watson, Scarlett Johansson og Katy Perry, skrev nettstedet Digi.no tidligere i år.

Les også: Facebook tar i bruk ny teknologi i kampen mot hevnporno

(Saken fortsetter under)

Forfalsket video basert på bilder av USAs president Barack Obama. Ved hjelp av ansiktskartlegging kunne man få det til å se ut som om den daværende presidenten sa ting han aldri hadde sagt. NTB Scanpix/AP.

– Nedverdigende

– Folk vil skjønne at det ikke er meg i porno-videoene, uansett hvor nedverdigende de måtte være. Det er langt mer forstyrrende ting enn dette i «det mørke nettet», dessverre, sa skuespillerinnen Scarlett Johansson til Washington Post i desember.

Skuespillerinnen Scarlett Johansson mener det ikke er stort hun får gjort med misbruken av hennes ansikt i deepfake-porno. NTB Scanpix/AFP.

Hennes ansikt har blitt brukt i titalls pornovideoer på nett. Noen av dem blir fremstilt som ekte sexvideoer på avveie, og har opptil 1,5 millioner sidevisninger på et større pornonettsted.

– Det ville være poengløst for meg å ta opp kampen mot dette, mens det for privatpersoner kanskje kan stå om jobben hvis deres ansikt misbrukes på denne måten. Internett er et mer eller mindre lovløst område, sier Johansson.

Hun bemerker også at lovgivningen varierer fra land til land, noe som gjør videoene enda vanskeligere å bli kvitt. Isteden oppfordrer hun folk til å ta forholdsregler for å sikre sin identitet, private foto og opplysninger.

I september la Google «ufrivillige syntetiske pornobilder» til sin liste over forbudt innhold.

Les også: Trump gikk rett i strupen på kritiske journalister

«Global trussel»?

En høring i det amerikanske senatet i januar tok for seg «globale trusler». Nye teknologiske trusler som desinformasjon og deep fakes ble særlig fremhevet, skrev CNET.

– Da USAs demokrati ble angrepet i 2016 var det ikke med bomber, missiler eller fly. Det var med kontoer på sosiale medier som enhver 13-åring kan opprette gratis, sa senatoren, sa senator Richard Burr, den republikanske formannen for Senatets etterretningskomité.

Hackerangrep mot bedrifter og infrastruktur har kostet enkelte land milliardbeløp det siste tiåret.

Les også: Din epost er mål for kriminelle

(Saken fortsetter under)

«FaceBook Elections»-skilt i medieområdet før den første republikanske presidentdebatten i Cleveland i 2015. Flere amerikanske politikere krever nye lover etter Cambridge Analytica-skandalen om bruk av Facebook-brukeres data til politisk påvirkning. NTB Scanpix/AP.

– Lettere å lage enn å avsløre

Det amerikanske forsvarsdirektoratet DARPA opprettet allerede i 2014 et prosjekt for å granske teknologien. Matt Turek, sjefen for DARPA-programmet har tidligere uttalt at det per i dag er langt lettere å produsere overbevisende deepfakes enn å avsløre dem.

Igjen maner Sandland i NorSIS til å holde hodet kaldt:

– Flere og flere er fenomenet bevisst, og foreløpig betrakter jeg det ikke som så dramatisk som det tidvis har blitt fremstilt. Samtidig vil det også komme bedre verktøy til å avsløre falsknerier. Google og YouTube vil kunne reagere mot slike videoer relativt fort, sier han til ABC Nyheter.

Les også: Du trodde kanskje fake news var ille? «Deep fakes»er stedet sannheten drar for å dø.

Identitetstyveri

Ansiktsgjenkjenning spiller en stadig viktigere rolle i overvåking og sikkerhet som på flyplasser, men brukes også i nyere smarttelefoner. Tyveri av slike data vil kunne misbrukes til identitetstyveri og utpressing.

I USA studeres fenomenet deepfakes ved flere læresteder og offentlige instanser. Disse utvikler også metoder for å forebygge eller avsløre deepfakes.

– Foreløpig later deepfakes til å være forbeholdt profesjonelle med teknisk innsikt, tid og ressurser. Og da kan de faktisk gjøre stor skade, sier Sandland i NorSIS. Verktøyene er gratis, så kostnaden blir først og fremst tid og spesialistkompetanse.

En kvinne i Washington ser på en manipulert video der uttalelser fra president Donald Trump og tidligere president Barack Obama har blitt endret, som illustrasjon på bruk av deepfake-teknologien til å lure seere. 24. januar 2019. NTB Scanpix/AFP.

Fenomenet skaper likevel bekymring blant amerikanske toppolitikerne frem mot presidentvalget til neste år.

– Den tiltakende strømmen av teknologiske utfordringer mot USA er noe etterretningsmiljøet må omorganiseres for å møte, sa direktør for nasjonal etterretning i USA Dan Coats under en senatshøring i januar, skrev CNET.

– Vi forventer at Russland vil fortsette sin informasjonskrig mot demokratiske land og å bruke sosiale medier til å så splid. Vi er absolutt oppmerksomme på trusselen fra deepfake-videoene, sa Coats under høringen.

Les også: Nord-Koreas hacker-hær: Bankran, svindel,spionasje og hevn

– Aksje-manipulasjon

– Mitt skrekkscenario er det økonomiske. Se for deg at jeg lager en jukse-video der det ser ut som Elon Musk kommer med en dramatisk melding om Tesla. Aksjen vil kunne stupe, og de som står bak kan tjene store penger på ned- og oppturen, sier Sandland i NorSIS til ABC Nyheter.

– Jeg har sett flere såkalt profesjonelle eksempler, og vurderer det foreløpig slik at det er en stund til alle vil la seg lure. Den dagen dette blir programvare for hvermansen vil man nok kunne se alt fra sketsjer og underholdning til mer skadelige uttrykk, sier Sandland.

Les også: Britiske soldater brukte bilde av Jeremy Corbyn som blink

(Saken fortsetter under)

BuzzFeed har fått produsert denne videoen der stemmen til skuespilleren Jordan Peele er brukt som lyd til en forfalsket video av USAs tidligere president Obama. 25. januar 2019. NTB Scanpix/ AFP

– Skreddersyr annonser

Seniorrådgiveren i NorSIS bekrefter at det foregår ulike «påvirkningsoperasjoner» rettet mot vanlige borgere, men understreker igjen at falske filmer langt fra er det mest brukte verktøyet i dag:

– Man kan påvirke folk over tid med målrettet politisk reklame og store mengder fake news.

Google og Facebook selger skreddersydde annonseplasser tilpasset den enkelte brukers nettvaner og interesser.

– Jo mer man vet om målgrupper og velgere, jo mer målrettet reklame kan man kjøre. Dette er fortsatt helt lovlig, sier Sandland.

Les også:

Takk for at du abonnerer

Motta våre nyheter via Messenger

Jeg godtar brukvervilkårene
Mer fra ABC Nyheter
Siste fra forsiden
16:42 Kim og Putin møtes i Vladivostok16:23 Barn satt fast i handlevogn16:01 Demokratene krever usladdet Mueller-rapport15:57 To av tre nordmenn mener barn av IS-krigere bør hentes hjem15:52 Djokovic med sjokktap i Monte Carlo14:49 Brannen på Løvstakken i Bergen er under kontroll14:49 Mange vil ha bedre kontroll med snøscootere14:44 To mistenkte spioner fra Emiratene er pågrepet i Tyrkia14:27 TV 4: IS-kriger Michael Skråmos barn kan hentes til Irak14:24 Demonstrasjoner ved Heathrow roligere enn fryktet14:04 180.000 bier i Notre-Dame er funnet i live14:02 SVT: Lundqvist står i mål for Sverige i VM13:38 Klopp føler med City13:30 Økning for Turistforeningen i Sylan og Trollheimen13:06 EU fordømmer drap på journalist i Nord-Irland12:57 Avis: Hazard blir Real-klar om få dager12:51 De superrikes katedral-donasjoner høster kraftig kritikk12:43 Indisk mann kappet av seg fingeren etter å ha stemt på feil parti12:35 Egyptere stemmer over grunnlovsendring som lar Sisi sitte til 203012:34 Tønnesen klar til dyst i Europa12:07 Russland mener Mueller-rapporten ikke beviser innblanding12:05 Norge møter Sør-Afrika i VM-generalprøve11:57 Kvinnelig journalist drept i opptøyer i Nord-Irland11:50 Equinor og partnerne investerer milliarder i Aserbajdsjan11:49 Solskjær med tøffe krav til spillerne: – Noen trenger en virkelighetssjekk11:28 Fransk politi ber om hastemøte etter flere selvmord blant politifolk11:16 Protestbevegelsen i Sudan skal kunngjøre sivilt styre11:08 Hest berget opp av isen med helikopter på Finnskogen11:00 Fernando flyktet fra Venezuela: – Absolutt alt der er korrupt10:53 MLS skal utvides til 30 lag10:44 Taliban-samtaler utsatt på ubestemt tid10:17 Capitals' nøkkelspiller Oshie skadd10:13 Macron møter UNESCO om Notre-Dame09:58 FN evakuerer flyktninger fra Libya09:48 Everton-sjefen advarer Solskjær: – Vi kan gjøre det virkelig tøft for dem09:35 13 døde da kirketak kollapset i Sør-Afrika09:29 Redd Barna: Hent barna hjem fra Syria09:13 Ajax-spillerne får frihelg foran Tottenham-møte08:55 Ramsey kan ha spilt sin siste Arsenal-kamp08:36 Elev i Bangladesh skal ha blitt brent i hjel på ordre fra rektor08:34 Folk bes om å samle jervebæsj08:21 Riise møtte Messi i 2007: – Prestert på dette nivået i 10-15 år08:18 Ecuadors eks-utenriksminister anklages for oppvigleri og kobles til WikiLeaks08:00 Statue av Johnny Cash skal opp i kongressen06:20 Trump skal møte Japans kommende keiser06:00 Søstre trygler om hjelp etter flukt fra Saudi-Arabia05:50 Dette skjer i dag05:30 Dette skjedde i natt05:27 Strid om hva Mueller-rapporten forteller om Trump05:05 Fange fikk penger fra Nav mens han var på rømmen fra fengsel04:44 Uber har sikret investeringer i milliardklassen04:29 Russebråk flere steder i landet03:26 92-åring tiltalt for å ha vært SS-vakt i Tyskland03:02 Mann dømt til fengsel for å laste ned overgrepsmateriale av barn02:45 Andersen ferdig i Sør-Korea02:03 Tre turister havnet i havet – tankskip etterforskes01:42 Malis statsminister trekker seg01:33 Mann til sykehus etter MC-ulykke01:19 Økning i antall bekymringsmeldinger til barnevernet i Oslo00:24 Trump sier han kunne sparket alle i Russland-etterforskningen00:05 Chelsea til semifinale i europaligaen tross hjemmekluss, frisparkperle roet Arsenal-nervene23:44 USA sender diplomat til Sudan som ny utsending22:57 Politiet betegner dødsfall i Ski som mistenkelig22:50 Demonstranter omringer hærens hovedkvarter i Khartoum22:11 Lottomillionær: – Trodde det var telefonsalg21:19 – Fortsatt vestlig ønsketenkning om Kina21:08 The North Face-team fryktes omkommet i snøskred20:52 Facebook samlet data om 1,5 millioner brukere20:03 Tre turister havnet i havet – tankskip etterforskes19:05 Temperaturen bikket 20 grader i Østfold skjærtorsdag18:46 Politiet tror kortslutning utløste brannen i Notre-Dame17:32 Seks personer innbrakt på glattcelle etter bråk i Strömstad17:28 Skrev «hjelp» i gjørma - her blir de reddet fra ødemarken17:20 HRW: Omfattende tortur av fanger i Mosul16:51 Bilfører slo bilfører i ansiktet etter kollisjon på Rena16:37 To skadd i motocrossulykke i Hedmark16:17 Mosambik: Nødhjelp er kun nest best14:41 Over 200 drept i kamper om Libyas hovedstad14:31 Kvinne omkom i trafikkulykke i Oppland14:26 Rapport: Trump forsøkte å ta kontroll over Mueller-etterforskningen14:10 Båtbrann i Gandsfjorden i Rogaland13:25 Isbjørn på ville veier havnet i landsby 700 kilometer hjemmefra12:16 Diplomaten som ble krimforfatter og «løste» Palmemordet12:08 Snøscooter kjørte inn i et tre i Trøndelag11:54 Påsketuren gikk ikke helt som planlagt: – Hun satt nok i andre tanker11:01 Mann pågrepet med bensin i katedral i New York08:51 Ivanka Trump sier hun avviste farens forslag om toppjobb i Verdensbanken08:50 Stortingsrepresentant vil at staten skal hjelpe skoler med svake resultater08:35 Ajax fra RBK-tap til Europa-sensasjon på under to år07:26 Jordskjelv ryster Taiwan07:16 Minst 14 drept i angrep på buss i Pakistan07:00 Ny meningsmåling: Amerikanere ikke klare for å frikjenne Trump06:40 Statlig radiostasjon: 60 omkom i tordenvær i India06:26 Etappe to i valget i India er i gang06:05 Båt grunnstøtte i Vestfold: – Sto ti meter inn på land06:00 BBC-ekspert om Solskjærs United: – Trenger dyre reservedeler og en full service05:50 Dette skjer i dag05:38 Dette skjedde i natt05:20 Zuccarello-mål i storslagen hjemmeseier05:18 Guatemalansk presidentkandidat pågrepet i USA i narkosak
Siste nytt
16:42VerdenKim og Putin møtes i Vladivostok16:23NorgeBarn satt fast i handlevogn16:01VerdenDemokratene krever usladdet Mueller-rapport15:57NorgeTo av tre nordmenn mener barn av IS-krigere bør hentes hjem15:52SportDjokovic med sjokktap i Monte Carlo14:49NorgeBrannen på Løvstakken i Bergen er under kontroll14:49NorgeMange vil ha bedre kontroll med snøscootere14:44VerdenTo mistenkte spioner fra Emiratene er pågrepet i Tyrkia14:27VerdenTV 4: IS-kriger Michael Skråmos barn kan hentes til Irak14:24VerdenDemonstrasjoner ved Heathrow roligere enn fryktet14:04Verden180.000 bier i Notre-Dame er funnet i live14:02SportSVT: Lundqvist står i mål for Sverige i VM13:38SportKlopp føler med City13:30NorgeØkning for Turistforeningen i Sylan og Trollheimen13:06VerdenEU fordømmer drap på journalist i Nord-Irland12:57SportAvis: Hazard blir Real-klar om få dager12:51VerdenDe superrikes katedral-donasjoner høster kraftig kritikk12:43VerdenIndisk mann kappet av seg fingeren etter å ha stemt på feil parti12:35VerdenEgyptere stemmer over grunnlovsendring som lar Sisi sitte til 203012:34SportTønnesen klar til dyst i Europa12:07VerdenRussland mener Mueller-rapporten ikke beviser innblanding12:05SportNorge møter Sør-Afrika i VM-generalprøve11:57VerdenKvinnelig journalist drept i opptøyer i Nord-Irland11:50NorgeEquinor og partnerne investerer milliarder i Aserbajdsjan11:49SportSolskjær med tøffe krav til spillerne: – Noen trenger en virkelighetssjekk11:28VerdenFransk politi ber om hastemøte etter flere selvmord blant politifolk11:16VerdenProtestbevegelsen i Sudan skal kunngjøre sivilt styre11:08NorgeHest berget opp av isen med helikopter på Finnskogen11:00VerdenFernando flyktet fra Venezuela: – Absolutt alt der er korrupt10:53SportMLS skal utvides til 30 lag10:44VerdenTaliban-samtaler utsatt på ubestemt tid10:17SportCapitals' nøkkelspiller Oshie skadd10:13VerdenMacron møter UNESCO om Notre-Dame09:58VerdenFN evakuerer flyktninger fra Libya09:48SportEverton-sjefen advarer Solskjær: – Vi kan gjøre det virkelig tøft for dem09:35Verden13 døde da kirketak kollapset i Sør-Afrika09:29VerdenRedd Barna: Hent barna hjem fra Syria09:13SportAjax-spillerne får frihelg foran Tottenham-møte08:55SportRamsey kan ha spilt sin siste Arsenal-kamp08:36VerdenElev i Bangladesh skal ha blitt brent i hjel på ordre fra rektor08:34NorgeFolk bes om å samle jervebæsj08:21SportRiise møtte Messi i 2007: – Prestert på dette nivået i 10-15 år08:18VerdenEcuadors eks-utenriksminister anklages for oppvigleri og kobles til WikiLeaks08:00VerdenStatue av Johnny Cash skal opp i kongressen06:20VerdenTrump skal møte Japans kommende keiser06:00VerdenSøstre trygler om hjelp etter flukt fra Saudi-Arabia05:50NorgeDette skjer i dag05:30NorgeDette skjedde i natt05:27VerdenStrid om hva Mueller-rapporten forteller om Trump05:05NorgeFange fikk penger fra Nav mens han var på rømmen fra fengsel04:44VerdenUber har sikret investeringer i milliardklassen04:29NorgeRussebråk flere steder i landet03:26Verden92-åring tiltalt for å ha vært SS-vakt i Tyskland03:02NorgeMann dømt til fengsel for å laste ned overgrepsmateriale av barn02:45SportAndersen ferdig i Sør-Korea02:03NorgeTre turister havnet i havet – tankskip etterforskes01:42VerdenMalis statsminister trekker seg01:33NorgeMann til sykehus etter MC-ulykke01:19NorgeØkning i antall bekymringsmeldinger til barnevernet i Oslo00:24VerdenTrump sier han kunne sparket alle i Russland-etterforskningen00:05SportChelsea til semifinale i europaligaen tross hjemmekluss, frisparkperle roet Arsenal-nervene23:44VerdenUSA sender diplomat til Sudan som ny utsending22:57NorgePolitiet betegner dødsfall i Ski som mistenkelig22:50VerdenDemonstranter omringer hærens hovedkvarter i Khartoum22:11NorgeLottomillionær: – Trodde det var telefonsalg21:19Verden– Fortsatt vestlig ønsketenkning om Kina21:08VerdenThe North Face-team fryktes omkommet i snøskred20:52VerdenFacebook samlet data om 1,5 millioner brukere20:03NorgeTre turister havnet i havet – tankskip etterforskes19:05NorgeTemperaturen bikket 20 grader i Østfold skjærtorsdag18:46VerdenPolitiet tror kortslutning utløste brannen i Notre-Dame17:32NorgeSeks personer innbrakt på glattcelle etter bråk i Strömstad17:28VerdenSkrev «hjelp» i gjørma - her blir de reddet fra ødemarken17:20VerdenHRW: Omfattende tortur av fanger i Mosul16:51NorgeBilfører slo bilfører i ansiktet etter kollisjon på Rena16:37NorgeTo skadd i motocrossulykke i Hedmark16:17StemmerMosambik: Nødhjelp er kun nest best14:41VerdenOver 200 drept i kamper om Libyas hovedstad14:31NorgeKvinne omkom i trafikkulykke i Oppland14:26VerdenRapport: Trump forsøkte å ta kontroll over Mueller-etterforskningen14:10NorgeBåtbrann i Gandsfjorden i Rogaland13:25VerdenIsbjørn på ville veier havnet i landsby 700 kilometer hjemmefra12:16KulturDiplomaten som ble krimforfatter og «løste» Palmemordet12:08NorgeSnøscooter kjørte inn i et tre i Trøndelag11:54NorgePåsketuren gikk ikke helt som planlagt: – Hun satt nok i andre tanker11:01VerdenMann pågrepet med bensin i katedral i New York08:51VerdenIvanka Trump sier hun avviste farens forslag om toppjobb i Verdensbanken08:50NorgeStortingsrepresentant vil at staten skal hjelpe skoler med svake resultater08:35SportAjax fra RBK-tap til Europa-sensasjon på under to år07:26VerdenJordskjelv ryster Taiwan07:16VerdenMinst 14 drept i angrep på buss i Pakistan07:00VerdenNy meningsmåling: Amerikanere ikke klare for å frikjenne Trump06:40VerdenStatlig radiostasjon: 60 omkom i tordenvær i India06:26VerdenEtappe to i valget i India er i gang06:05NorgeBåt grunnstøtte i Vestfold: – Sto ti meter inn på land06:00SportBBC-ekspert om Solskjærs United: – Trenger dyre reservedeler og en full service05:50NorgeDette skjer i dag05:38NorgeDette skjedde i natt05:20SportZuccarello-mål i storslagen hjemmeseier05:18VerdenGuatemalansk presidentkandidat pågrepet i USA i narkosak
Populært