Konsten att avslöja Deepfakes: En utmaning i ständig utveckling
Att identifiera deepfakes är ingen enkel uppgift; komplexiteten ökar ständigt. Tekniken har alltid haft en dubbelnatur. Den kan leda till fantastiska framsteg, men också möjliggöra mindre önskvärda handlingar. Denna dualitet blir särskilt tydlig när vi pratar om artificiell intelligens (AI), som nu manifesterar sig i påtagliga och ibland oroande former.
Deepfakes är ett exempel på AI-applikationer som kan generera extremt realistiska videor, bilder och ljud. Realismen är så pass avancerad att det ofta krävs nästan övermänskliga färdigheter för att skilja dem från äkta material.
Vad är Deepfakes?
I grunden är deepfakes falska medier skapade med hjälp av dator- eller mobilapplikationer. Dessa applikationer använder avancerade algoritmer för att manipulera originalmaterial och ersätta element med andra. Effekten är att man skapar syntetiska media som kan vara svåra att urskilja från verkligheten.
Syftet med deepfakes kan variera från underhållning till bedrägeri. Tidigare krävdes det betydande resurser och expertis för att skapa övertygande deepfakes. Nu, med tillgång till kraftfulla grafikkort och avancerad mjukvara, har processen blivit betydligt mer tillgänglig.
Det krävs dock mer än bara tekniska färdigheter för att skapa deepfakes som övertygar fullt ut. Röstkloning, ansiktsuttryck och små nyanser spelar en viktig roll. Utvecklingen av algoritmer gör det emellertid allt enklare att skapa realistiska deepfakes, även på enklare datorer. Detta gör det ännu viktigare att vara medveten om potentialen för missbruk och att kunna urskilja dem från äkta material.
Hur identifierar man Deepfakes?
Alla deepfakes skapas inte lika. Vissa avslöjar sig genom tydliga tecken på maskinbearbetning, medan andra kräver noggrann observation eller till och med AI-drivna verktyg för att identifiera. Här följer några metoder och detaljer att vara uppmärksam på:
Hudton
Ett av de första tecknen att notera är variationer i hudton. De manipulerade områdena, oftast ansiktet, kan ha mindre färgskillnader som skapar en obalans med resten av kroppen. Detta kan vara en ledtråd om att materialet är falskt.
Ett exempel på detta var en deepfake-video av den ukrainska presidenten Volodymyr Zelenskyj där han påstods uppmana sina styrkor att kapitulera till Ryssland. Denna video var dock inte särskilt övertygande och avslöjades snabbt som en deepfake.
Ansiktsuttryck
Ansiktsuttryck är en annan faktor som kan avslöja en deepfake, särskilt om den skapats av amatörer. Dessa skapelser lider ofta av onaturliga läpprörelser utan de små pauser som är karaktäristiska för mänskligt tal. Vissa algoritmer har åtgärdat detta, men även med dessa förbättringar kan du upptäcka repetitiva mönster i huvudrörelser och andningsuppehåll.
Blinkningar är ett annat område att undersöka. De tenderar att följa cykliska mönster i koden, vilket skiljer sig från det oregelbundna mänskliga blinkandet. Ögonrörelser kan också vara en ledtråd. AI verkar ofta mer fokuserad än en människa, vilket kan avslöja en deepfake.
Sammanfattningsvis är deepfakes lättare att identifiera om de inte är skapade med nästintill perfektion.
Detaljer
Hur kan man då avgöra om det är den riktiga Morgan Freeman eller inte? Kvaliteten på deepfakes kan variera kraftigt. För att undersöka dessa verktyg kan man använda högre upplösning och större skärmar. Man kan också ta skärmdumpar och zooma in för att se om något verkar onaturligt. Det är ofta i de små detaljerna som AI:n misslyckas.
Huden i en deepfake kan se fläckig ut, och hårväxten kan se onaturlig och påklistrad ut. Genom att analysera dessa detaljer kan man bättre avgöra om en video är falsk. Genom att jämföra en deepfake med ett riktigt referensmaterial kan skillnaderna bli tydligare.
Syntetisk hud kan vara mest synlig runt områden som mustasch, skägg och hårfäste. Ansiktsdrag som haka, ögonbryn och näsa kan också ge ledtrådar. Att jämföra en deepfake med den riktiga personen gör det ofta lätt att identifiera det falska.
Detaljer i munnen
Människor har en unik mimik under tal, med komplexa rörelser i läppar, tunga och haka. Deepfaketekniken har ännu inte fullständigt bemästrat detaljerna i munnen. Till exempel kan individuella tänder saknas, och tungans rörelser kan vara omärkbar.
Titta på en deepfake av Obama: det enda vi ser är en vit remsa utan tydliga tecken på tungans rörelse. I en äkta video av Obama är hans mimik betydligt mer uttrycksfull och med större ansiktsrörelser.
Ofta är videokvaliteten inte särskilt tydlig, vilket kan bero på komprimering eller databegränsningar. Detta kan vara ett försök att dölja deepfakens brister.
Övergångar
En begränsning i skapandet av deepfakes är att varje bildruta måste granskas noggrant för att bevara illusionen. Därför är övertygande deepfake-videor ofta begränsade i ansiktsrörelser och visar sällan sidovy. Övergångar mellan sidovy och front kan avslöja svagheterna.
Här är en bild från en deepfake av Tom Cruise:
Om du sakta ner videon och studerar övergångarna, kan du se suddiga detaljer när ansiktet roterar. Dessa övergångar är svåra att dölja och kan avslöja att videon är AI-genererad.
Dessa tips kan hjälpa dig att identifiera deepfakes och undvika felaktig information. Här är en sammanfattning:
- Kontrollera variationer i hudton.
- Var uppmärksam på onaturlig läppsynkronisering, robotliknande beteende eller avsaknad av blinkningar.
- Zooma in för att granska hudstruktur och hårväxt.
- Jämför ansiktsuttryck och talstil med autentiska videor.
- Undersök om högupplösta versioner finns tillgängliga.
- Gör en snabb Google-sökning för att se om materialet är omtalat som falskt.
- Notera övergripande ansiktsdimensioner och jämför dem med autentiska bilder.
- Sakta ner videon för att identifiera dåliga övergångar.
- Granska detaljer i munnen.
- Dela och be om feedback från vänner och familj vid osäkerhet.
Deepfakes är inte perfekta!
Dessa principer gäller inte bara video, utan även AI-genererat ljud. Även om tekniken ständigt utvecklas kommer den alltid att vara ett steg efter den äkta varan. Utan praktisk erfarenhet är det svårt att lära sig identifiera deepfakes. Därför har vi sammanställt denna guide som en introduktion till vad deepfakes är och hur de fungerar.