djupa förfalskningar så tvivlar 4 14
 Teknik som kan producera deepfakes är allmänt tillgänglig. (Shutterstock)

I början av mars, en manipulerad video av Ukrainas president Volodymyr Zelenskyy cirkulerade. I den sa en digitalt genererad Zelenskyy till den ukrainska nationella armén att kapitulera. Videon cirkulerades online men avvisades snabbt som en djupförfalskning - en hyperrealistisk men ändå falsk och manipulerad video producerad med artificiell intelligens.

Även om rysk desinformation verkar ha en begränsad effekt, illustrerade detta alarmerande exempel de potentiella konsekvenserna av deepfakes.

Deepfakes används dock framgångsrikt inom hjälpmedel. Till exempel, personer som lider av Parkinsons sjukdom kan använda röstkloning för att kommunicera.

Deepfakes används i utbildning: Irland-baserade talsyntesföretaget CereProc skapade en syntetisk röst för John F. Kennedy, väckte honom till liv igen för att hålla sitt historiska tal.

innerself prenumerera grafik

Ändå har varje mynt två sidor. Deepfakes kan vara hyperrealistiska, och i princip omöjlig att upptäcka av mänskliga ögon.

Därför skulle samma teknik för röstkloning kunna användas för nätfiske, förtal och utpressning. När deepfakes medvetet används för att omforma den allmänna opinionen, hetsa till sociala konflikter och manipulera val, har de potential att undergräva demokratin.

Forskare vid University of Washington producerade en deepfake av Barack Obama.

Orsakar kaos

Deepfakes är baserade på teknik som kallas generativa adversariella nätverk där två algoritmer tränar varandra att producera bilder.

Även om tekniken bakom djupa förfalskningar kan låta komplicerad, är det en enkel sak att producera en. Det finns många onlineapplikationer som t.ex Ansikts byte och ZAO Deepswap som kan producera deepfakes inom några minuter.

Google Colaboratory – ett onlineförråd för kod på flera programmeringsspråk – innehåller exempel på kod som kan användas för att skapa falska bilder och videor. Med så här tillgänglig programvara är det lätt att se hur genomsnittliga användare kan orsaka förödelse med djupförfalskningar utan att inse de potentiella säkerhetsriskerna.

Populariteten för appar för ansiktsbyte och onlinetjänster som Djup nostalgi visa hur snabbt och brett deepfakes kan antas av allmänheten. Under 2019, ungefär 15,000 XNUMX videor med djupförfalskningar upptäcktes. Och detta antal förväntas öka.

Deepfakes är det perfekta verktyget för desinformationskampanjer eftersom de producerar trovärdiga falska nyheter som tar tid att avslöja. Samtidigt är skadorna som orsakas av deepfakes - särskilt de som påverkar människors rykte - ofta långvariga och oåterkalleliga.

Är se att tro?

Den kanske farligaste förgreningen av deepfakes är hur de lämpar sig för desinformation i politiska kampanjer.

Vi såg detta när Donald Trump betecknade all föga smickrande mediebevakning som "falska nyheter.” Genom att anklaga sina kritiker för att cirkulera falska nyheter kunde Trump använda desinformation för att försvara sina missförhållanden och som ett propagandaverktyg.

Trumps strategi tillåter honom att behålla stödet i en miljö fylld av misstro och desinformation genom att hävda "att sanna händelser och berättelser är falska nyheter eller deepfakes. "

Trovärdigheten hos myndigheter och media undergrävs, skapa ett klimat av misstro. Och med den ökande spridningen av djupförfalskningar kan politiker lätt förneka skulden i eventuella framväxande skandaler. Hur kan någons identitet i en video bekräftas om de förnekar det?

Att bekämpa desinformation har dock alltid varit en utmaning för demokratier när de försöker upprätthålla yttrandefriheten. Human-AI-partnerskap kan hjälpa till att hantera den ökande risken för deepfakes genom att låta människor verifiera information. Det kan också övervägas att införa ny lagstiftning eller tillämpa befintliga lagar för att straffa producenter av djupförfalskningar för att förfalska information och utger sig för att vara personer.

Multidisciplinära tillvägagångssätt från internationella och nationella regeringar, privata företag och andra organisationer är alla viktiga för att skydda demokratiska samhällen från falsk information.Avlyssningen

Om författaren

Sze-Fung Lee, forskarassistent, Institutionen för informationsvetenskap, McGill University och Benjamin CM Fung, professor och kanadensisk professor i datautvinning för cybersäkerhet, McGill University

Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.