Den flyktiga mixen av deepfakes och politiska kampanjer är en bra anledning att vara på sin vakt. Sean Anthony Eddy Creative/E+ via Getty Images
Föreställ dig en Oktober överraskning som ingen annan: Bara en vecka före den 5 november 2024 avslöjar en videoinspelning ett hemligt möte mellan Joe Biden och Volodymyr Zelenskyy. De amerikanska och ukrainska presidenterna är överens om att omedelbart initiera Ukraina i Nato under "det särskilda protokollet om nödmedlemskap" och förbereda för ett kärnvapenanfall mot Ryssland. Plötsligt är världen på gränsen till Harmageddon.
Medan journalister kunde påpeka det inget sådant protokoll finns och användare av sociala medier kanske lägger märke till udda videospelsliknande egenskaper hos videon, andra kanske känner det deras värsta rädsla har bekräftats. När valdagen kommer, kan dessa berörda medborgare låta videon svänga deras röster, omedvetna om att de just har manipulerats av en djupt falsk situation – en händelse som aldrig faktiskt hände.
Situation deepfakes representerar nästa steg av teknologier som har redan skakad publikens uppfattning om verkligheten. I vår forskning vid DeFake Project, mina kollegor på Rochester Institute of Technology, den University of Mississippi, Michigan State University och jag studera hur deepfakes görs och vilka åtgärder väljarna kan vidta för att försvara sig mot dem.
Att föreställa sig händelser som aldrig hände
En deepfake skapas när någon använder ett verktyg för artificiell intelligens, särskilt djupt lärande, för att manipulera eller generera en göra, en röst eller – med uppkomsten av stora språkmodeller tycka om ChatGPT - samtalsspråk. Dessa kan kombineras för att bilda "deepfakes för situationen."
Grundidén och tekniken för en situationsdeepfake är densamma som med alla andra deepfake, men med en djärvare ambition: att manipulera en verklig händelse eller uppfinna en från tomma luften. Som exempel kan nämnas skildringar av Donald Trumps förövare promenad och Trump kramar Anthony Fauci, vilket inte hände. Kramskottet främjades av en Twitter-konto i samband med presidentkampanjen av Trump-konkurrenten Ron DeSantis. En attack annons inriktning på Joe Bidens kampanj 2024 publicerad av den republikanska nationella kommittén var gjord helt med AI.
Vid DeFake Project, Vår forskning har funnit att deepfakes, inklusive situationer, vanligtvis skapas av någon blandning av lägga till ett stycke media med ett annat; med hjälp av en video för att animera en bild eller ändra en annan video, dubbad dockspelning; trolla fram ett stycke media, vanligtvis med hjälp av generativ AI; eller någon kombination av dessa tekniker.
För att vara tydlig görs många djupförfalskningar av situationer i oskyldiga syften. Till exempel, Infinite Odyssey Magazine producerar falska stillbilder från filmer som producerades aldrig or kunde aldrig ha existerat. Men även oskyldiga deepfakes ger anledning till paus, som i fallet med nästan trovärdiga falska fotografier som visar Apollo månlandning som en filmproduktion.
Deepfaking ett val
Sätt dig nu i den situationen att någon försöker påverka det kommande valet. Vilka är de möjliga situationer du kanske vill skapa?
Till att börja med skulle det spela någon roll om du ville luta röstningen mot eller bort från ett specifikt resultat. Kanske skulle du gestalta en kandidat som agerar heroiskt genom att dra en fotgängare ur vägen för en fortkörande bil eller, omvänt, göra något kränkande eller kriminellt. Formatet på situationen deepfake skulle också ha betydelse. Istället för en video kan det vara ett fotografi, kanske med oskärpa och vinklar som simulerar en smartphonekamera eller en nyhetsbyrås förfalskade logotyp.
Din målgrupp skulle vara nyckeln. Istället för att sikta på den allmänna väljarkåren eller ett partis bas, kan du rikta in dig på konspirationsteoretiker i viktiga röstningsdistrikt. Du kan framställa kandidaten eller deras familjemedlemmar som engagerade i en satanisk ritual, deltar i en festival på exklusiv och kontroversiell Bohemian Grove, eller ha en hemligt möte med en utomjordisk.
Om du har ambitionen och kapaciteten för det kan du till och med försöka förfalska själva valet. I juni 2023 hackades Rysslands tv- och radiostationer och sända en fullständig mobiliseringsorder av en deepfake av Rysslands president Vladimir Putin. Även om detta skulle vara svårare att göra i ett amerikanskt val, kan i princip alla nyhetsmedier hackas för att sända deepfakes av sina ankare som tillkännager fel resultat eller att en kandidat ger med sig.
Försvara verkligheten
Det finns en mängd olika tekniska och psykologiska sätt att upptäcka och försvara sig mot situationens djupförfalskningar.
På den tekniska fronten innehåller alla deepfakes några bevis på sin sanna natur. Vissa av dessa kan ses av det mänskliga ögat – som alltför slät hud eller udda belysning eller arkitektur – medan andra kan vara kan endast upptäckas av en deepfake-jaktande AI.
Vi bygger DeFakes detektor för att använda AI för att fånga de tydliga tecknen på deepfakes, och vi arbetar för att försöka ha den klar i tid till valet 2024. Men även om en tillräckligt kraftfull deepfake-detektor som vår inte kan användas före valdagen, finns det psykologiska verktyg som du, väljaren, kan använda för att identifiera deepfakes: bakgrundskunskap, nyfikenhet och sund skepsis.
Om du stöter på medieinnehåll om en person, plats eller händelse som verkar okaraktäristisk, lita på din bakgrundskunskap. Till exempel i en nyligen bluff av en brand i Pentagon, byggnaden som visas ser mer fyrkantig ut än femkantig, vilket kan vara en giveaway.
Försök dock att inte lita helt på din bakgrundskunskap, som kan vara felaktig eller ojämn. Var aldrig rädd för att lära dig mer från pålitliga källor, som faktagranskade nyhetsrapporter, referentgranskade akademiska artiklar eller intervjuer med legitimerade experter.
Var dessutom medveten om att deepfakes kan användas för att dra fördel av vad du är benägen att tro om en person, plats eller händelse. Ett av de bästa sätten att hantera detta är att helt enkelt vara medveten om dina fördomar och vara lite bevakad över allt medieinnehåll som verkar bekräfta dem.
Även om det blir möjligt att skapa deepfakes för perfekta situationer, kommer sannolikt hur trovärdigt deras ämne är att förbli deras akilleshäl. Så, med eller utan en teknisk lösning, har du fortfarande makten att försvara valet från påverkan av falska händelser.
Om författaren
Christopher Schwartz, forskarassistent i datorsäkerhet, Rochester Institute of Technology
Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.
Relaterade böcker:
On Tyranni: Twenty Lessons from the Twentieth Century
av Timothy Snyder
Den här boken ger lärdomar från historien för att bevara och försvara demokrati, inklusive betydelsen av institutioner, enskilda medborgares roll och farorna med auktoritärism.
Klicka för mer info eller för att beställa
Vår tid är nu: Makt, syfte och kampen för ett rättvist Amerika
av Stacey Abrams
Författaren, en politiker och aktivist, delar sin vision för en mer inkluderande och rättvis demokrati och erbjuder praktiska strategier för politiskt engagemang och väljarmobilisering.
Klicka för mer info eller för att beställa
Hur demokratier dör
av Steven Levitsky och Daniel Ziblatt
Den här boken undersöker varningssignalerna och orsakerna till demokratiskt sammanbrott, och bygger på fallstudier från hela världen för att ge insikter om hur man kan skydda demokratin.
Klicka för mer info eller för att beställa
The People, No: A Brief History of Anti-Populism
av Thomas Frank
Författaren ger en historia om populistiska rörelser i USA och kritiserar den "antipopulistiska" ideologi som han hävdar har kvävt demokratiska reformer och framsteg.
Klicka för mer info eller för att beställa
Demokrati i en bok eller mindre: hur det fungerar, varför det inte gör det och varför det är lättare än du tror att fixa det
av David Litt
Den här boken ger en översikt över demokratin, inklusive dess styrkor och svagheter, och föreslår reformer för att göra systemet mer lyhört och ansvarsfullt.
