2020-03-31

Slik oppdager du deepfakes

Manipulerte stemmer, bilder og videoer blir brukt for å underholde, men også til å svindle, spre falske nyheter, propaganda og til å påvirke valg. Og selv om plattformgigantene nå har bestemt seg for å slå ned på deepfakes, er det viktig at hver og en av oss blir mer bevisst på hva vi bør se etter, for å kunne skille mellom det falske og det ekte.

Karianne Myrvold Markeds- og kommunikasjonssjef, Trend Micro

Deepfakes er en trussel mot demokratiet

YouTube, Twitter og Facebook har i det siste økt innsatsen for å slå ned på bruk av manipulerte medier, inkludert deepfake-videoer. Deepfake er betegnelsen for medier, bilder, video og lyd, som er generert ved bruk av kunstig intelligens og maskinlæring. Metoden blir i økende grad benyttet til propaganda og spredning av falske politiske budskap, hvor ansikter og stemmer til kjente politikere og kjendiser blir misbrukt. Utviklingen og spredningen av deepfakes er en trussel for demokratiet.

Plattformselskapene forbyr deepfakes

YouTube har i lengre tid hatt et forbud mot manipulerte medier i deres retningslinjer for spam, villedende markedsføring og kommunikasjon, samt svindel. I bloggposten «How YouTube supports elections», som YouTube publiserte i begynnelsen av februar i år, er deepfakes inkludert som ett av flere eksempler på villedende valgrelatert innhold som ikke er tillatt.

Twitter har også oppdatert deres retningslinjer når det kommer til manipulerende videoer, som inkluderer deepfakes, men nevner ikke det amerikanske valget spesifikt. Derimot kunngjorde Twitter et generelt forbud mot manipulerte videoer som «sannsynligvis vil forårsake skade».

Facebook har nylig også innført et forbud mot manipulerte medier som deepfakes. Mark Zuckerberg ble blant annet utnyttet i en deepfake-video i 2019. Formålet var å teste Facebook sine egne retningslinjer vedrørende falske videoer. Den gang uttalte Facebook at de ikke ville fjerne videoen. Nå har sosiale medier-giganten snudd.

Deepfakes er også en sikkerhetstrussel  

Deepfakes kan også benyttes for å skade enkeltindividers omdømme og troverdighet, men også til å spre villedende informasjon som kan skade selskaper. Etter hvert som tilgangen til avansert teknologi som blir brukt til å produsere falske nyheter og propaganda blir enklere og billigere, vil også deepfakes i økende grad bli brukt til svindel. I 2019 ble vi blant annet vitne til at stemmen til en britisk toppsjef ble brukt til å svindle selskapet for nesten 2,3 millioner kroner.

Slik kan du oppdage deepfakes

Det finnes mange måter du og jeg kan lage egne deepfakes. Mug Life er en app for iOS og Android, hvor du og jeg kan lage enkle deepfakes. Disse er mest av alt ment for å lage morsomme videoer, som heldigvis er enkle å avsløre som falske. Men ikke alle deepfakes er laget for å underholde. Ei heller for å bli avslørt for å være falske. Teknologi-magasinet Wired. intervjuet Sabah Jassim fra universitet i Buckingham og Bill Posters fra Spectre, for å høre hva det er vi bør se etter, for å avsløre deepfakes, og de pekte på fire spesifikke ting;

  • Blunking – deepfake-personer blunker med øynene mindre enn ekte personer
  • Synkronisering av tale- og leppebevegelse
  • Følelser og uttrykk i ansiktet i mismatch med hva deepfake-personen sier
  • Misfarging, uskarpe bilder og litt hakkete video

Deepfakes for direktørsvindel

Deepfakes har som nevnt allerede blitt brukt som en ny form for direktørsvindel. Det er ingen grunn til å tro at dette ikke vil skje igjen. Derfor blir det fremover enda viktigere for selskaper å ha på plass gode rutiner, slik at de ansatte blir mer bevisst på deepfakes og hva de bør være obs på, for å unngå å bli svindlet.

Det kan handle om å dobbeltsjekke detaljer omtalt i e-post, telefon- eller videosamtaler, det være seg bankkonto-informasjonen, e-postadresser, telefonnumre og de fire punktene som Sabah Jassim og Bill Posters nevnte til Wired. I tillegg er det viktig å bekrefte forespørsler som handler om overføring av penger eller sensitiv informasjon med alle berørte parter.

På samme måte som at virksomheter bør regelmessig trene og oppdatere sine ansatte på IT-sikkerhet, bør de gjøre det samme når det kommer til nye konstruerte angrep, inkludert den utviklingen vi ser innenfor deepfakes. For det er ingen tvil om at deepfakes fremover bare vil bli vanskeligere å skille fra virkeligheten. At det kan bli tilnærmet umulig å skille mellom hva som er ekte og hva som er falskt, er en demokratisk og sikkerhetsmessig utfordring vi må ta på alvor.

 

 

Har du spørsmål om IT-sikkerhet? Kontakt oss her:







Ved samtykke godtar du at vi lagrer dine data i våre systemer.

Les mer i vår personvernserklæring.