Vi har en tendens att förlita oss på vad vi ser och hör i video- och ljudinspelningar. Men i dagens läge, med hjälp av artificiell intelligens, kan vem som helst få sitt ansikte eller sin röst återskapad med en förbluffande precision. Resultatet av detta är en så kallad deepfake – en förfalskning som kan användas för allt från att skapa memes till att sprida desinformation eller framställa pornografiskt material.
Ett snabbt sök på deepfakes med Nicholas Cage, eller Jordan Peeles informativa video om deepfakes, visar tydligt att vi står inför en teknik som är både anmärkningsvärd och potentiellt problematisk. Dessa exempel, även om de kan framstå som harmlösa, väcker viktiga frågor om framtiden. Kan vi verkligen lita på video- och ljudmaterial? Kan vi hålla människor ansvariga för det de syns göra på skärmen? Och är vi överhuvudtaget redo för den era av deepfakes som nu är över oss?
Deepfakes: Nya, lättillgängliga och snabbt växande
Deepfake-tekniken är fortfarande relativt ny, den har bara några få år på nacken, men har redan utvecklats till något som är både fascinerande och bekymmersamt. Termen ”deepfake” myntades på en Reddit-tråd år 2017 och används för att beskriva hur artificiell intelligens används för att återskapa en persons utseende eller röst. Det kanske mest häpnadsväckande är att nästan vem som helst kan skapa en deepfake med en enkel dator, lite programvara och några timmars arbete.
Otroligt nog är bilden till vänster en deepfake.
Som med alla nya tekniska framsteg finns det en del förvirring kring vad deepfakes faktiskt är. Ett bra exempel på detta är den så kallade ”Drunk Pelosi”-videon. Deepfakes skapas med hjälp av AI och är designade för att efterlikna riktiga människor. ”Drunk Pelosi”-videon, som har felaktigt ansetts vara en deepfake, är i själva verket bara en video av Nancy Pelosi som har saktats ner och där tonhöjden har manipulerats för att skapa en sluddrande effekt.
Detta är en viktig skillnad mellan deepfakes och till exempel CGI, som användes för att återskapa Carrie Fisher i Star Wars: Rogue One. Medan Disney investerade stora summor i att studera Carrie Fishers ansikte och återskapa det manuellt, kan en vanlig person med lite deepfake-programvara göra samma sak, helt gratis, på bara en dag. Artificiell intelligens har gjort processen otroligt enkel, billig och realistisk.
Så skapas en Deepfake
Precis som en elev i en skolklass måste en AI ”lära sig” hur man utför den uppgift den är avsedd för. Detta sker genom en process av trial and error, vilket ofta kallas för maskininlärning eller djupinlärning. En AI som är programmerad för att klara det första banan i Super Mario Bros kommer att spela spelet om och om igen tills den hittar det mest effektiva sättet att vinna. Personen som designar AI:n tillhandahåller den data som krävs för att komma igång, samt några ”regler” för att hantera situationer där saker går fel. Utöver det sköter AI resten av arbetet.
Samma princip gäller för att återskapa ansikten med deepfake-teknik. Att återskapa ansikten är dock inte riktigt samma sak som att vinna ett tv-spel. Om vi skulle skapa en deepfake där Nicholas Cage agerar värd för Wendy Williams talkshow, skulle vi behöva följande:
En destinationsvideo: Deepfakes fungerar bäst med klara, tydliga destinationsvideor. Det är därför några av de mest övertygande deepfakes handlar om politiker, som ofta står stilla på en scen med enhetlig belysning. Så, vi behöver en video av Wendy som sitter stilla och pratar.
Två datamängder: För att munnens och huvudets rörelser ska se korrekta ut behöver vi en datamängd med bilder av Wendy Williams ansikte och en datamängd med bilder av Nicholas Cages ansikte. Om Wendy tittar åt höger behöver vi en bild på Nicholas Cage som också tittar åt höger. Om Wendy öppnar munnen behöver vi en bild på Cage som öppnar munnen.
Efter detta låter vi AI:n göra sitt jobb. Den försöker skapa deepfake om och om igen, och lär sig av sina misstag. Ganska enkelt, eller hur? Ja, men att se en video med Cages ansikte på Wendy Williams kropp