Deepfake: hva det er og hvordan du avslører manipulerte videoer og stemmer

Hva er deepfake, og hvordan lages det?

En deepfake lages ved at en algoritme trenes opp med tusenvis av bilder og lydfiler av én person. Resultatet er at både ansikt og stemme kan byttes ut – og det kan se og høres overraskende ekte ut².

Kildematerialet er avgjørende: Jo mer høyoppløselig materiale som finnes av personen, desto bedre utgangspunkt for den digitale modellen¹. Det betyr at kjendiser og andre med mange bilder og videoer på nettet er lette mål.

EUs KI-forordning har en juridisk definisjon av deepfake: AI-generert eller manipulert bilde-, lyd- eller videoinnhold som ligner på ekte personer. Denne definisjonen er lagt til grunn i et utredningsnotat fra Stortingets utredningsseksjon om lovregulering av deepfakes³.

Hvordan bruker svindlere deepfake?

Økokrim ser stadig flere eksempler på at deepfake-teknologi brukes til troverdige bedragerier, og er bekymret for at bruken vil øke de kommende årene¹. Norske banker rapporterer to hovedmetoder i rapporten «Norske bankers bekjempelse av svindel»⁴:

• Falske kjendisannonser: Manipulerte kjendisklipp får det til å virke som en kjent person anbefaler en investering eller et produkt. Se mer om falske kjendisannonser og falske nyhetsartikler.
• Falske nettmøter: Svindlere fremstår som ledere eller beslutningstakere i Teams-møter med KI-generert stemme eller deepfake-video, og ber om betaling eller sensitiv informasjon⁴.

Et skremmende norsk eksempel er TV 2s nyhetsanker Nicolai Tangen, som ble misbrukt i en deepfake-video. Både Økokrim og TV 2 omtalte den som et eksempel på hvordan redaktørstyrte medier kan misbrukes til å svindle¹.

Stemmeekloning brukes også i telefonsvindel, der en «leder» eller et familiemedlem ringer og ber deg handle raskt. Hvis noen ber deg betale eller gi sensitiv informasjon i en video- eller lydmelding – verifiser alltid via en kjent kanal før du handler.

Hvilke faresignaler bør du se etter?

• Sjokkerende overskrifter som virker for utrolige – ofte med STORE BOKSTAVER og utropstegn⁵
• Saker som vekker sterke følelser og oppfordrer til raske handlinger som betaling eller klikk⁵
• Falske nettmøter der en «leder» eller kjent person ber om betaling eller sensitiv informasjon⁴
• Nettadresse eller utseende som ligner en kjent nyhetskilde⁵
• Ingen andre medier rapporterer om saken⁵
• Tekniske detaljer som skurrer – noe i videoen du stusser over²

Hvordan avslører du en deepfake?

Du trenger ikke spesialverktøy for å avsløre de fleste deepfakes. Kritisk medieforståelse er fortsatt det viktigste, selv om automatiske deteksjonsverktøy er under utvikling. Følg denne rekkefølgen:

1. Stopp og tenk. Vekker saken sterke følelser? Virker den for utrolig? Da skal du være ekstra på vakt⁵.
2. Sjekk avsender og nettadresse. Falske nyheter har ofte adresse eller utseende som ligner kjente nyhetskilder⁵. Lær mer i hvem står bak nettsiden?
3. Finn saken andre steder. Hvis ingen andre medier rapporterer om det samme, kan saken være falsk⁵.
4. Gjør omvendt bildesøk. Søk med et nøkkelbilde fra videoklippet, og se etter geografiske kjennetegn som kan verifiseres⁶. Vi har ikke funnet navngitte norske verktøy for automatisk deepfake-deteksjon.
5. Undersøk metadata. Metadata i videofiler kan sammenlignes med bilde- og videomateriale fra samme hendelse fra andre kilder⁶.
6. Still spørsmål til innholdet. Kan andre kilder bekrefte det? Er det noe teknisk som skurrer? Hva sier magefølelsen?²

Vil du sjekke et konkret utsagn eller en påstand, kan du følge metodene i faktasjekk – slik sjekker du påstander selv. Hvis du har klikket på en lenke i en mistenkelig annonse, begrens skaden med rådene i klikket du på en svindellenke?

Hva sier norske myndigheter?

Datatilsynet har sluttet seg til en global uttalelse fra 61 datatilsynsmyndigheter om deepfakes. De krever at selskapene iverksetter tiltak mot misbruk, særlig for å beskytte barn og sårbare grupper⁷.

KI-genererte bilder og videoer av andre personer regnes som personopplysninger, og personvernreglene gjelder derfor⁷. Datatilsynet understreker at selskapene må gi effektive mekanismer for å be om sletting av skadelig innhold og svare raskt.

Kripos har utgitt en etterretningsrapport om generativ kunstig intelligens og cyberkriminalitet som beskriver deepfake-teknologien⁸, og Medietilsynet og Tenk har laget undervisningsopplegg om hvordan ungdom kan avsløre bilde- og stemmemanipulering².

Vanlige misforståelser om deepfake

«Det er lett å se at det er fake.» Nei – jo mer kildemateriale som finnes av en person, desto mer troverdig blir deepfaken. I 2020 demonstrerte programmereren Will Kwan hvordan fritt tilgjengelig kode kunne lage en digital versjon av Billie Eilishs ansikt og stemme – og teknologien har blitt stadig mer brukervennlig⁹.

«Bare kjendiser rammes.» Kjendiser er lette mål fordi mye materiale finnes av dem, men stemmekloning kan rettes mot vanlige mennesker i målrettet svindel, som falske nettmøter og telefonoppringninger⁴.

«Det finnes én teknologi som avslører alt.» Automatiske deteksjonsverktøy er under utvikling, men kritisk medieforståelse er fortsatt viktigst – stopp, tenk og sjekk².

Fant du en feil? Skriv til info@nyhetsvinkel.org. Se slik jobber vi.