Deepfakes: En ny era av realism och risker
Moderna företag använder i allt större utsträckning tekniken deepfakes för att skapa övertygande illusioner, vilket kan ha en positiv inverkan på deras verksamhet. Samtidigt har denna teknik lett till att det blivit svårt att avgöra vad som är äkta och vad som är förfalskat på internet. Bilder och videor kan manipuleras, vilket skapar en osäkerhet kring det visuella material vi konsumerar dagligen.
Men det finns också många som använder deepfake-tekniken på ett ansvarsfullt sätt. Den här artikeln utforskar deepfakes, de möjligheter de erbjuder inom näringslivet, de risker som finns i form av bedrägerier, samt ger en översikt över några av de bästa programvarorna för deepfakes med öppen källkod.
Vad är egentligen deepfakes?
Deepfakes är manipulerat visuellt material som skapas med hjälp av avancerade AI-modeller. Resultatet är bilder, ljud eller videor som ser ut att vara verkliga. Skaparna av deepfakes använder sig av djupinlärning – en gren av maskininlärning – för att åstadkomma detta.
Genom deepfakes kan man skapa helt påhittade karaktärer eller lägga till falskt ljud till befintliga videoklipp. Det är också möjligt att ersätta en persons ansikte med en annans, samtidigt som det ursprungliga ljudet bevaras. Röstmanipulation är ytterligare en möjlighet, vilket kan leda till att det verkar som att en känd person säger ord som inte kommer från dem.
Här är ett exempel på en deepfake-video:
Videon ser realistisk ut och kan lura ögat vid första anblicken. Dock är den här videon skapad för flera år sedan.
Deepfakes potential inom näringslivet
Deepfakes har många användningsområden, bland annat att skapa memes. Men det finns också de som missbrukar tekniken för att sprida desinformation eller misskreditera varumärken och individer.
Trots riskerna erbjuder deepfakes flera fördelar för kreativa varumärken och företag. Här är några av dem:
- Minskade produktionskostnader: Företag kan minska sina utgifter genom att inte längre behöva anlita skådespelare, bygga dyra inspelningsset eller anställa fotografer/videografer. Deepfakes möjliggör produktion av högkvalitativt visuellt material till en lägre kostnad.
- Skapande av personligt anpassat innehåll: Företag kan producera reklam och annat innehåll som är specifikt riktat till utvalda platser, målgrupper eller branscher.
- Virtuella influencers: I stället för att anlita dyra fysiska influencers kan företag bygga virtuella influencers med hjälp av deepfakes, som kan marknadsföra och stärka deras varumärken.
- Förbättrad kundservice: Företag kan erbjuda kundservice dygnet runt genom att använda virtuella representanter som svarar på vanliga frågor och interagerar med kunder.
- Ökad tillgänglighet: Deepfakes kan användas för att skapa innehåll som är tillgängligt för personer med olika funktionsnedsättningar, till exempel teckenspråksöversättningar.
Deepfake-bedrägerier och hur du kan upptäcka dem
Deepfake-bedrägerier är avsiktligt vilseledande aktiviteter som använder sig av deepfake-teknik för att skada, vilseleda eller uppnå ekonomisk vinning. Dessa bedrägerier kan ta sig olika uttryck, till exempel röstbedrägerier, videoimitationer, falska rekommendationer och intervjuer.
Ett vanligt exempel är falska videor som riktas mot kända personer som politiker eller kändisar. Till exempel fanns en video där den ukrainske presidenten Volodymyr Zelenskyy påstods ha sagt att ”hans trupper hade kapitulerat”:
Betyder det att man inte kan lita på något man ser online? Nej, lyckligtvis finns det sätt att avslöja deepfakes:
- Uttryck: Var uppmärksam på onaturliga läpprörelser och bristen på pauser i talet. Kroppsspråket kan också ge ledtrådar om videon är äkta eller inte.
- Ojämn hudton: Kontrollera om hudtonen i ansiktet matchar resten av kroppen, till exempel händerna. Ojämn hudton är vanligt i deepfake-videos.
- Övergångar: De flesta deepfake-videor fokuserar på framsidan av ansiktet. Kontrollera övergångarna om videon har andra vinklar, för att se om något ser konstigt ut.
- Ojämnheter: Om du har en skärm med god upplösning kan du se ojämnheter på datorgenererade bilder. Om det är en video kan du pausa, ta en skärmdump och analysera huden för att se om den ser syntetisk ut.
För att skapa deepfakes krävs ofta specialiserade och kraftfulla datorer. Men det finns också lättillgänglig programvara som man kan använda för att skapa sådant material.
Här är några av de bästa programvarorna för att skapa deepfakes:
FaceSwap
FaceSwap är ett djupinlärningsverktyg som används för att känna igen och byta ut ansikten. Det är byggt med TensorFlow, Keras och Python – några av de ledande teknologierna inom maskininlärning.
FaceSwap kan köras på Windows, macOS och Linux. Det är avsett för att experimentera med artificiell intelligens och kan användas i filmer, politiska eller sociala kommentarer, eller andra etiska sammanhang.
Funktioner:
- Bäst för att byta ansikten i videor och bilder.
- Finns för Linux, macOS och Windows.
- Gratis.
FaceSwap har ett forum där användare kan interagera och dela idéer om hur man använder verktyget.
DeepFaceLive
DeepFaceLive är ett verktyg för att byta ansikten i realtid under videosamtal och PC-streaming. Man kan byta ut sitt eget ansikte mot ett annat genom att använda tränade modeller eller via webbkamera. Verktyget har hundratals ansikten av personer som inte finns.
Funktioner:
- Inga beroenden.
- Kompatibelt med Windows 10 och senare.
- Passar för realtidsbyten för videosamtal och PC-streaming.
DeepFaceLive erbjuder också DeepFaceLab, där du kan träna dina egna ansiktsmodeller för att få högre kvalitet och bättre matchning. Det finns även en ansiktsanimator som låter dig skapa GIF:ar och andra korta videoformat.
DeepFaceLab
DeepFaceLab är ett ledande ramverk för ansiktsbyte. Det har alla nödvändiga verktyg för att skapa högkvalitativa ansiktsbyten. Det är också lämpligt för dem som vill ha flexibilitet och möjlighet att stärka sina arbetsflöden utan att behöva skriva komplex kod.
Funktioner:
- Finns för Linux och Windows.
- Ett ramverk för ansiktsbyte.
- Kan tränas på Google Collab.
DeepFaceLab är mycket anpassningsbart och användare kan justera flera aspekter för att passa deras behov. Man kan till exempel byta ansikten, avåldra ansikten och manipulera läpparna.
SimSwap
SimSwap är ett ramverk för att byta ansikten i videor och bilder. Det bevarar egenskaper som blickriktning och ansiktsuttryck när man byter ansikten. Detta gör att det resulterande ansiktet har en nära likhet med källans ansikte.
Funktioner:
- Ramverk för ansiktsbyte.
- Passar för videor och bilder.
- Anpassningsbar till godtyckliga identiteter.
Verktyget är utformat så att man kan anpassa byten till godtyckliga identiteter. Det är skapat med hjälp av Python och dess bibliotek, som NumPy, PyTorch och TorchVision.
FaceFusion
FaceFusion är en ansiktsbytare och förstärkare, tillgängligt för macOS, Linux och Windows. Det är avsett för experter inom maskininlärning och de med teknisk kompetens. Minst 4 GB RAM krävs för att köra programmet smidigt, men 8 GB eller mer rekommenderas.
Funktioner:
- En ansiktsbytare och förstärkare.
- Inga beroenden.
- Gratis.
FaceFusion riktar sig till den AI-genererade medieindustrin, och användare kan skapa karaktärer för klädmodeller eller animera egna karaktärer. Det är byggt med Python.
Ghost
Ghost är en förkortning av Generative High-Fidelity One Shot Transfer. Det använder en enda källbild för att byta ut ett ansikte i en video eller bild utan ytterligare träningssteg. Det är utformat för att upprätthålla realismen i målansiktet.
Funktioner:
- Byter ansikten i videor och bilder.
- Använder en engångsmetod.
- Öppen källkod.
Ghost använder en funktion som bevarar ögonriktningen som i målansiktet. Verktyget använder även adaptiv blandning, vilket gör att användare kan överföra formen på källansikten effektivt. Det har bild-till-bild och bild-till-video pipelines för högkvalitativa byten.
SadTalker
SadTalker är en generator av rörelsekoefficienter i 3D. Det genererar uttryck och huvudpositioner för att skapa talande ansiktsrenderingar. Videorna kan vara på olika språk, som engelska eller kinesiska. Modellerna är tränade för att styra ögonblinkningar och göra dem så realistiska som möjligt.
Funktioner:
- Multiplattform.
- Passar för video och bilder.
- Gratis.
SadTalker är ett multiplattformsverktyg som kan användas på Windows, Linux och macOS. Man kan generera videor i olika lägen som storleksändring, stillbild och referens. Alla maskiner med 4 GB RAM eller mer kan köra SadTalker.
Röstkloning i realtid
Röstkloning i realtid är ett verktyg som hjälper dig att klona en röst och generera godtyckligt tal på några sekunder. Plattformen körs på Windows och Linux. De förutbildade modellerna laddas ned automatiskt när du installerar verktyget på din dator, men du kan också ladda ned dem manuellt.
Funktioner:
- Multiplattform.
- Röstkloning i realtid.
- Gratis.
Röstkloning i realtid går igenom tre steg för att producera ett godtyckligt tal. I det första steget skapar användaren en digital representation av en röst från ljud. De två sista stegen innebär generering av tal från den givna texten.
Slutsats
Det finns många programvaror för deepfakes som du kan använda för att byta ut bilder eller videor. Trots riskerna med missbruk kan tekniken användas på ett ansvarsfullt sätt inom näringslivet och för att bygga ditt varumärke. Valet av programvara beror på uppgiften och din tekniska kunskap. Utvärdera varje verktyg för att se om det passar dina behov.
Du kan också undersöka de bästa AI-röstkloningsverktygen för att skapa sömlösa och autentiska voiceovers.