Donald Trump s kontroversiell borttagning från sociala medieplattformar har återupptagit debatt kring censur av information som publiceras online. Men frågan om desinformation och manipulation på sociala medier går mycket längre än en mans Twitter-konto. Och det är mycket mer utbrett än vad man tidigare trodde.
Sedan 2016 har vårt team vid Oxford Internet Institute övervakat den snabba globala spridningen av manipulationskampanjer för sociala medier, som vi definierar som användningen av digitala verktyg för att påverka allmänhetens beteende online. Under de senaste fyra åren har manipulation av sociala medier utvecklats från ett nischproblem till ett globalt hot mot demokrati och mänskliga rättigheter.
Vår senaste rapport fann att organiserade kampanjer för manipulering av sociala medier nu är vanliga över hela världen - identifierade i 81 länder 2020, upp från 70 länder i 2019. Kartan nedan visar den globala fördelningen av dessa 81 länder, markerade i mörkblå.
I vår rapport fokuserar vi på användningen av ”cyber-trupper”, som är lag från regeringen, de militära eller politiska partierna som är engagerade i att manipulera den allmänna opinionen på sociala medier. Cyber-trupper genomför regelbundet vad vi kallar ”beräkningspropaganda” -kampanjer.
Beräkningspropaganda innebär användning av programmerade bots eller människor för att medvetet sprida vilseledande information över internet, ofta på en industriell skala.
För att göra detta använder beräkningsmässiga propagandister en omfattande verktygslåda med desinformationsverktyg. Politiska robotar förstärka hatprat och skapa intryck av trendiga politiska meddelanden på Twitter och Facebook. De olaglig skörd av data hjälper propagandister målmeddelanden hos specifika, ofta utsatta individer och grupper. Trollarméeranvänds emellertid regelbundet för att undertrycka politisk aktivism och pressfrihet.
År 2020 identifierade vi 62 länder där statliga myndigheter själva använder dessa verktyg för att forma allmänheten. I andra länder som ingår i vår studie används dessa verktyg av privata organisationer eller utländska aktörer.
Desinformation att hyra
Trots den Cambridge Analytica-skandalen avslöja hur privata företag kan blanda sig i demokratiska val, vår forskning fann också en alarmerande ökning av användningen av "desinformation-för-hyra" -tjänster över hela världen. Med hjälp av statlig och politisk partifinansiering är cybersoldater från den privata sektorn det alltmer anställs för att sprida manipulerade meddelanden online eller för att drunkna andra röster på sociala medier.
Vår forskning hittade statliga aktörer som arbetade med privata beräknings propagandaföretag i 48 länder år 2020, jämfört med 21 identifierade mellan 2017 och 2018, och bara nio sådana fall mellan 2016 och 2017. Sedan 2007, nästan USD 60 miljoner (49 miljoner pund) har spenderats globalt på kontrakt med dessa företag.
Dessutom har vi upptäckt relationer mellan hyrda cybertrupper och civilsamhällsgrupper som ideologiskt stöder en viss sak, till exempel ungdomsgrupper och sociala medier. I USA, till exempel ungdomsgruppen Pro-Trump Vändpunktsåtgärd användes för att sprida desinformation på nätet och berätta för Trump-berättelser om både COVID-19 och inlämningsröstningar.
För att uppnå sina politiska mål är utstrykningskampanjer mot en politisk motståndare den vanligaste strategin som används av cybertrupper, med 94% av alla länder som vi undersökte. I 90% av länderna observerade vi spridningen av pro-parti eller pro-regerings propaganda. Att undertrycka deltagande genom trolling eller trakasserier var ett inslag i 73% av länderna, medan i 48% försökte cybertruppens meddelanden polarisera medborgarna.
Moderering av sociala medier
Klart, debatter runt censuren av Trump och hans anhängare på sociala medier täcker bara en aspekt av branschens desinformationskris. Eftersom fler länder investerar i kampanjer som aktivt vill vilseleda sina medborgare kommer sociala medieföretag sannolikt att möta ökade krav på moderering och reglering - och inte bara av Trump, hans anhängare och relaterade konspirationsteorier som QAnon.
Donald Trump förbjöds från Twitter i efterdyningarna av Capitol-upploppen. pcruciatti / Shutterstock
Redan i år har förekomsten av beräkningsmässiga propagandakampanjer i hela Europa COVID-19-pandemi och i efterdyningarna av det amerikanska valet har fått många sociala medieföretag att begränsa missbruk av sina plattformar genom att ta bort konton som de tror hanteras av cybertrupper.
Till exempel fann vår forskning att Facebook mellan januari 2019 och december 2020 avlägsnas 10,893 12,588 konton, 603 XNUMX sidor och XNUMX grupper från sin plattform. Under samma period Twitter avlägsnas 294,096 XNUMX konton och fortsätter att ta bort konton som är länkade längst till höger.
Trots dessa kontoborttagningar har vår forskning visat att mellan januari 2019 och december 2020 spenderades nästan 10 miljoner dollar av cybertrupper på politiska annonser. Och en viktig del av berättelsen är att sociala medieföretag fortsätter att dra nytta av marknadsföring av desinformation på sina plattformar. Uppmaningar om stramare reglering och fastare polisarbete kommer sannolikt att följa Facebook och Twitter tills de verkligen får tag på tendensen hos sina plattformar att vara värd för, sprida och multiplicera desinformation.
En stark, funktionell demokrati är beroende av allmänhetens tillgång till information av hög kvalitet. Detta gör det möjligt för medborgarna att delta i informerade överläggningar och att få enighet. Det är tydligt att sociala medieplattformar har blivit avgörande i underlätta detta informationsutbyte.
Dessa företag bör därför öka sina ansträngningar för att flagga och ta bort desinformation tillsammans med alla cybertroppkonton som används för att sprida skadligt innehåll online. I annat fall kommer den fortsatta eskaleringen i beräkningspropagandakampanjer som vår forskning har avslöjat bara öka den politiska polarisationen, minska allmänhetens förtroende för institutioner och ytterligare undergräva demokratin över hela världen.
Om författaren
Hannah Bailey, doktorsexamen i social datavetenskap, University of Oxford
Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.
