"Misslyckas i livet. Gå själv bomb. "

Kommentarer som den här, som finns på en CNN-artikel om hur kvinnor uppfattar sig, är utbredd idag över internet, oavsett om det är Facebook, Reddit eller en nyhetswebbplats. Ett sådant beteende kan sträcka sig från profanitet och namnuppringning till personliga attacker, sexuella trakasserier eller hattspråk.

En ny Pew Internet Survey fann att fyra av 10-personer på nätet har blivit trakasserade online, med mycket mer att ha sett sådant beteende. Trolling har blivit så häftigt att flera webbplatser har till och med tillgripit helt borttagning av kommentarer.

Många tror att trolling görs av en liten, vokal minoritet av sociopatiska individer. Denna tro har förstärkts inte bara i medium, men också i tidigare forskning om trolling, som fokuserade på att intervjua dessa individer. Vissa studier visade även att trollarna har predisponering personliga och biologiska egenskaper, såsom sadism och en benägenhet att söka överdriven stimulans.

Men om alla trollar inte är födda trollar? Vad händer om de är vanliga människor som du och jag? I vår forskning, fann vi att människor kan påverkas för att trolla andra under de rätta omständigheterna i ett online-samhälle. Genom att analysera 16 miljoner kommentarer gjorda på CNN.com och genomföra ett online kontrollerat experiment identifierade vi två nyckelfaktorer som kan leda vanliga människor att trolla.

Vad gör en troll?

Vi rekryterade 667 deltagare genom en online crowdsourcing plattform och bad dem att först ta en frågesport, läs sedan en artikel och delta i diskussion. Varje deltagare såg samma artikel, men några fick en diskussion som hade börjat med trolls kommentarer, där andra såg neutrala kommentarer istället. Här definierades trolling med hjälp av vanliga gemenskapsriktlinjer - till exempel namnuppringning, profanitet, rasism eller trakasserier. Den frågesport som gavs i förväg var också varierad för att vara lätt eller svår.

Vår analys av kommentarer på CNN.com hjälpte till att verifiera och utvidga dessa experimentella observationer.

Den första faktorn som verkar påverka trolling är en persons humör. I vårt experiment var människor som satte sig i negativa humör mycket mer benägna att börja trolla. Vi upptäckte också att trolling ebbs och flyter med tiden på dagen och veckodagen, i synk med naturliga humana humörmönster. Trolling är oftast sent på kvällen, och minst frekvent på morgonen. Trolling toppar också på måndag, i början av arbetsveckan.

Dessutom upptäckte vi att ett negativt humör kan fortsätta bortom händelserna som orsakade dessa känslor. Antag att en person deltar i en diskussion där andra skrev trollkommentarer. Om den personen fortsätter att delta i en orelaterad diskussion, är de mer benägna att trolla i den diskussionen också.

Den andra faktorn är sammanhanget för en diskussion. Om en diskussion börjar med en "trollkommentar", är det dubbelt så sannolikt att trolled av andra deltagare senare jämfört med en diskussion som inte börjar med en trollkommentar.

Faktum är att dessa trollkommentarer kan lägga till. Ju mer troll kommentarer i en diskussion desto mer sannolikt kommer framtida deltagare att trolla diskussionen. Sammantaget visar dessa resultat hur de första kommentarerna i en diskussion ställer in ett starkt, varaktigt prejudikat för senare trolling.

Vi undrade om vi kunde förutse när trolling skulle inträffa genom att använda dessa två faktorer. Med hjälp av maskininlärningsalgoritmer kunde vi prognostisera om en person skulle trolla om 80-procenten av tiden.

Intressant var att humör och diskussion var tillsammans en mycket starkare indikator på trolling än att identifiera specifika individer som troll. Med andra ord, trolling orsakas mer av personens miljö än något inneboende drag.

Eftersom trolling är situationell, och vanliga människor kan påverkas till troll, kan sådant beteende äntligen sprida sig från person till person. En enda trollkommentar i en diskussion - kanske skriven av en person som vaknade på fel sida av sängen - kan leda till sämre humör bland andra deltagare, och ännu fler trollkommentarer någon annanstans. Eftersom detta negativa beteende fortsätter att föröka sig, kan trolling bli en norm i samhällen om den lämnas okontrollerad.

Slå tillbaka

Trots dessa nykterande resultat finns det flera sätt att denna forskning kan hjälpa oss att skapa bättre onlineutrymmen för offentlig diskussion.

Genom att förstå vad som leder till trolling kan vi nu bättre förutsäga när trolling sannolikt kommer att hända. Detta kan låta oss identifiera potentiellt omstridda diskussioner i förväg och förberedande varna moderatorer, som sedan kan ingripa i dessa aggressiva situationer.

Maskininlärningsalgoritmer kan också sortera igenom miljontals inlägg mycket snabbare än någon människa. Genom att träna datorer för att upptäcka trolling beteende kan vi identifiera och filtrera oönskat innehåll med mycket högre hastighet.

Sociala insatser kan också minska trolling. Om vi ​​tillåter människor att dra tillbaka nyligen kommenterade kommentarer, kan vi kanske minimera ånger från att skicka in i värmen för tillfället. Att förändra sammanhanget i en diskussion, genom att prioritera konstruktiva kommentarer, kan öka uppfattningen av civilitet. Även om du bara klämmer in ett inlägg om en gemenskaps regler till toppen av diskussionssidor, hjälper det som ett nyligen genomfört experiment utförd på Reddit visade.

Ändå finns det mycket mer arbete att göra för att ta itu med trolling. Att förstå rollen som organiserad trolling kan begränsa vissa typer av oönskade beteenden.

Trolling kan också skilja sig åt i svårighetsgrad, från att svära till riktade mobbning, vilket kräver olika svar.

Det är också viktigt att skilja på effekterna av en trollkommentation från författarens avsikt: Trollet innebär att skada andra, eller försökte han bara uttrycka en annan synvinkel? Detta kan hjälpa till att skilja oönskade personer från dem som bara behöver hjälp med att kommunicera sina idéer.

När online-diskussioner bryter ner, är det inte bara sociopater som ska skylla. Vi har också fel. Många "trollar" är bara människor som oss själva som har en dålig dag. Att förstå att vi är ansvariga för både de inspirerande och deprimerande konversationerna vi har online är nyckeln till att ha mer produktiva diskussioner online.

Om författaren

Justin Cheng, doktorand i datavetenskap, Stanford University; Cristian Danescu-Niculescu-Mizil, biträdande professor i informationsvetenskap, Cornell University, och Michael Bernstein, biträdande professor i datavetenskap, Stanford University, Jure Leskovec vid Stanford University bidrog också till denna artikel.

Den här artikeln publicerades ursprungligen den Avlyssningen. Läs ursprungliga artikeln.

relaterade böcker

at InnerSelf Market och Amazon