En deepfake är en AI-skapad eller AI-manipulerad bild, video eller röst som ser eller låter äkta ut. Tekniken bakom är maskininlärning, alltså modeller som tränats på data, och deepfakes hör till generativ AI eftersom modellen skapar nytt innehåll som liknar det den har tränats på.
Ordet kommer av engelskans deep learning och fake. Det blev känt 2017 när en Reddit-användare med namnet ”deepfakes” lade upp ansiktsbytta videor. Om ett ord känns nytt finns korta förklaringar i vår ordlista.
I korthet
- Deepfake betyder AI-skapat eller AI-manipulerat bild-, video- eller ljudinnehåll som kan misstas för äkta.
- Vanliga typer är ansiktsbyte, ändrade munrörelser, röstkloning och helt genererade bilder eller klipp.
- Modellen tränas på bilder eller ljud av en person och återskapar mönster i datan. Därför kan resultatet likna personen utan att vara en riktig inspelning.
- Varningssignaler kan finnas i läppar, ljus, händer, bakgrund eller röst, men de blir mindre pålitliga när modellerna förbättras.
- Det säkraste skyddet är att verifiera via en separat kanal, till exempel ringa tillbaka på ett känt nummer och använda ett kodord i familjen.
Vad är deepfake?
En deepfake är innehåll som har skapats eller ändrats med AI så att det liknar en verklig person, plats eller händelse. Det kan vara en video där ett ansikte byts ut, en röst som låter som någon annan eller en bild som aldrig har tagits med kamera men ändå ser trovärdig ut.
Det viktiga är att en deepfake inte är en smart förfalskare i sig. Det är en modell som räknar på mönster i bilder och ljud. Om den har tränats på många exempel av ett ansikte eller en röst kan den skapa nytt material som följer samma mönster. Därför uppstår också typiska fel, till exempel ögon som ser stela ut eller ljus som inte riktigt stämmer.
Vilka typer av deepfakes finns?
- Ansiktsbyte i video: en persons ansikte läggs på en annan persons kropp eller inspelning.
- Läppsynk: munrörelser ändras så att det ser ut som att personen säger något annat.
- Röstkloning: en modell skapar nytt tal som liknar en viss persons röst.
- Helt genererade bilder eller klipp: hela motivet skapas av modellen, ibland så att det ser ut att föreställa en verklig person.
- Kombinationer: samma bedrägeri kan blanda falsk video, falsk röst och ett kapat konto eller en falsk avsändare.
I praktiken märks många deepfakes först som något misstänkt innehåll. Det kan vara en kändis som verkar göra reklam för en investering, en chef som kräver en snabb överföring eller ett barnbarn som ringer i panik och ber om pengar direkt.
Hur görs en deepfake i stora drag?
Allt börjar med träningsdata, alltså exempelbilder, videoklipp eller ljudprov som modellen får öva på. Många sådana system bygger på neurala nätverk, en sorts matematiska modeller som är bra på att hitta mönster i stora mängder data.
Samla material
Man samlar bilder från olika vinklar, videoklipp eller ljudprov av personen.
Träna modellen
Modellen justeras många gånger så att den blir bättre på att återskapa ansiktet, rösten eller rörelserna i materialet.
Skapa nytt innehåll
Systemet kan sedan lägga ett ansikte på en annan video, ändra munrörelser eller skapa nytt tal i den imiterade rösten.
Putsa resultatet
Klippning, bakgrundsljud, filter och komprimering kan dölja små fel och göra förfalskningen mer övertygande.
Tidiga ansiktsbyten använde ofta autoencoders, modeller som lär sig att koda ner ett ansikte och bygga upp det igen. Senare blev GAN kända. Där arbetar två modeller mot varandra, en som skapar och en som försöker hitta fel. I dag används också diffusionsmodeller. Vill du läsa mer om just den delen finns en separat sida om hur AI skapar bilder.
Varför kan det se äkta ut men ändå bli fel?
En deepfake kan bli övertygande eftersom modellen lär sig statistiska mönster i ansikten och röster. Den kan till exempel lära sig hur en person brukar le eller hur rösten brukar låta i vissa toner.
Men modellen arbetar inte med verklig kunskap om personen eller situationen. Den gissar vilket nästa bildparti, nästa läpprörelse eller nästa ljudbit som sannolikt passar bäst. Därför kan små saker falla isär. Ögonblinkningar kan bli onaturliga, händer kan se konstiga ut och rösten kan tappa rytm eller andning.
Felen syns extra tydligt när det finns många detaljer eller när modellen måste hålla samma utseende över tid. Samtidigt blir de här tecknen mindre pålitliga när verktygen förbättras. Det är därför man inte ska lita på att man alltid kan se en deepfake med blotta ögat.
Var används deepfakes i bedrägerier?
- Falska samtal från chefen: någon klonar en röst och kräver en snabb betalning eller ett känsligt dokument.
- Falska nödsamtal från släktingar: ett barnbarn eller en annan anhörig påstår att något akut har hänt och vill att du agerar direkt.
- Kändisreklam för investeringar: bild eller röst används för att få bluffannonser att se trovärdiga ut.
- Sexualiserade deepfakes och utpressning: någon skapar eller hotar att sprida falska intima bilder eller videor för att pressa fram pengar eller fler bilder.
- Desinformation: manipulerade klipp sprids för att skada förtroende eller få människor att tro att något har sagts eller gjorts.
Ett uppmärksammat exempel kom 2024, när en anställd på Arups kontor i Hongkong efter ett videomöte förde över motsvarande omkring 25 miljoner US-dollar. Kollegorna i mötet rapporterades vara deepfakes. Det visar att tekniken ofta kombineras med stress, auktoritet och social manipulation.
Deepfakes är alltså inte bara ett tekniskt trick. De används i riktiga bedrägerier och i större informationspåverkan. Om du vill sätta in ämnet i ett bredare sammanhang finns mer på sidan om är AI farligt.
Hur känner man igen deepfake?
Det finns varningssignaler, men de är inte säkra bevis. Många förfalskningar avslöjas inte av ett enda tydligt fel, utan av flera små saker som tillsammans känns märkliga.
- Läpparna passar inte riktigt ihop med ljudet.
- Ljus, skuggor och reflektioner stämmer inte mellan ansikte och bakgrund.
- Händer, fingrar eller text i bilden ser suddiga eller orimliga ut.
- Rösten låter nästan rätt men har konstig rytm, andning eller uttal.
- Den som ringer vägrar bli uppringd på nytt, vill hålla allt hemligt eller skapar stress.
- Du ombeds att logga in med BankID, lämna ut koder eller föra över pengar direkt.
Det finns också AI-detektorer som försöker hitta spår av AI-skapat innehåll. De kan vara ett stöd, men de kan både missa förfalskningar och flagga äkta material. Därför ska de inte ses som ett säkert facit.
Snabb guide: typ, varningssignal och vad du gör
| Typ av deepfake | Hur den görs | Varningssignal | Vad du gör |
|---|---|---|---|
| Ansiktsbyte i video | Ett tränat system lägger en persons ansikte på en annan video | Konstiga kanter, ljusfel eller mimik som hoppar | Lita inte på videon ensam. Be om bekräftelse via en separat kanal. |
| Läppsynk | Munrörelser ändras för att passa nytt tal | Munnen känns lite ur takt | Kontakta personen via ett känt sätt innan du tror på budskapet. |
| Röstkloning | En röstmodell skapar nytt tal från ljudprov | Rytm, andning eller uttal låter nästan rätt | Lägg på och ring tillbaka på ett nummer du redan har sparat. |
| Falskt nödsamtal eller chefssamtal | Röstklon kombineras med stress och krav på snabb handling | Brådska, hemlighet och krav på pengar eller koder | Använd kodord och godkänn aldrig pengar eller BankID utan separat verifiering. |
| Helt genererad bild eller video | Modellen skapar hela motivet från mönster i data | Händer, smycken, text eller bakgrund blir orimliga | Dela inte vidare och kontrollera källa och sammanhang först. |
Hur skyddar du dig mot deepfakes och AI-bedrägerier?
Det viktigaste skyddet är enkelt: verifiera via en separat kanal. Om någon ringer och säger att läget är akut, ring tillbaka på ett nummer du redan känner till. Om någon påstår sig vara polis, chef eller släkting ska du inte lita på rösten bara för att den låter bekant.
- Ring tillbaka på ett känt nummer, inte på numret som visas i displayen.
- Bestäm ett kodord eller en kodfras i familjen eller arbetslaget.
- Lämna inte ut koder och logga inte in med BankID på uppmaning i telefon.
- Var sparsam med offentliga ljudprov och tydliga närbilder om du inte behöver publicera dem.
- Rapportera misstänkta försök. Vid pågående brott ringer du 112, annars 114 14.
För fler allmänna råd om konton, bedrägerier och säkra rutiner finns vår sida om AI-säkerhet. Men just mot deepfakes är separat verifiering den viktigaste tumregeln.
Testa själv
1. Bestäm ett kodord med familjen som ingen annan känner till. Det ska användas om någon ringer och ber om pengar akut.
2. Öva att alltid ringa tillbaka på det nummer du redan har sparat för personen, inte på numret som syns i samtalet.
3. Bestäm i förväg att ingen i familjen ber om BankID, koder eller överföringar utan att först kunna bekräfta sig på annat sätt.
Måste deepfakes märkas tydligt?
Ja, i de flesta fall. Inom EU finns krav på att deepfakes ska märkas så att mottagaren får veta att innehållet är AI-skapat eller AI-manipulerat. Det står i EU:s AI-förordning, och för deepfakes gäller kravet sedan 2 augusti 2026. Konstnärliga, satiriska och tydligt fiktiva verk får en lättare form av upplysning.
I praktiken betyder det att du ska kunna få en tydlig upplysning när någon sprider en deepfake. Det finns också tekniska sätt att märka innehåll i filen själv, till exempel en dold teknisk etikett som andra system kan läsa av.
Du kan också stöta på C2PA och Content Credentials. Det är sätt att bära med sig ursprungsinformation om vem som skapat innehållet och vilka verktyg som använts. Det kan hjälpa, men märkning kan saknas och sådan information kan försvinna när filer kopieras eller sparas om. Frånvaro av märkning bevisar därför inte att något är äkta eller falskt.
Vanliga frågor
Vad är deepfake i enkel svenska?
En deepfake är en bild, video eller röst som har skapats eller ändrats med AI så att den liknar något äkta. Ofta används en verklig persons ansikte eller röst som mall. Resultatet kan vara mycket övertygande, särskilt i korta klipp eller telefonsamtal.
Hur känner man igen en deepfake-röst?
Lyssna efter små fel i rytm, andning, betoning och uttal. Men gå inte bara på örat, eftersom en röstklon kan låta tillräckligt lik för att lura dig i ett stressat läge. Det säkra är att lägga på och ringa tillbaka på ett känt nummer.
Hur gör man om någon ringer och låter som en släkting eller chef?
Agera inte direkt, även om rösten låter bekant. Lägg på, ring tillbaka på ett nummer du redan har sparat och använd gärna ett kodord som ni bestämt i förväg. Lämna aldrig ut koder eller godkänn pengar under press.
Är alla deepfakes olagliga?
Nej. En deepfake kan användas i satir, konst eller tydligt märkt fiktion. Problem uppstår när innehållet används för att lura, bedra, trakassera eller utpressa andra, eller när andra lagar bryts.
Varför blir deepfakes svårare att se?
För att modellerna tränas på mer och bättre data och blir bättre på att återskapa mönster i ansikten, rörelser och röster. Samtidigt räcker det ofta att innehållet verkar trovärdigt i några sekunder för att någon ska hinna bli stressad och agera. Därför är verifiering via separat kanal viktigare än att försöka hitta varje bildfel.
Källor
- https://en.wikipedia.org/wiki/Deepfake
- https://arxiv.org/abs/1406.2661
- https://www.europol.europa.eu/publications-events/publications/facing-reality-law-enforcement-and-challenge-of-deepfakes
- https://edition.cnn.com/2024/05/16/tech/arup-deepfake-scam-loss-hong-kong-intl-hnk
- https://polisen.se/utsatt-for-brott/polisanmalan/bedragerier/bedragerier/telefonbedrageri/
- https://www.fortifikationsverket.se/sakerhet/ar-du-saker/rostklon-eller-chefen
- https://digital-strategy.ec.europa.eu/en/faqs/transparency-obligations-under-article-50-ai-act
- https://c2pa.org/
Skriven av AI-redaktionen · Granskad av Linus Pierre. Texten är researchad och faktakontrollerad mot källorna ovan, som en del av maskinlarning.se – en sajt som byggs med AI och granskas av en människa.
Senast uppdaterad: 2 november 2026