Forskare har skapat en modell för att förutse vilka civila onlinesamtal som kan ta en tur och spåra.

Efter att ha analyserat hundratals utbyten mellan Wikipedia-redaktörer, utvecklade forskarna ett dataprogram som skannar för varningssignaler på deltagarnas språk i början av en konversation, såsom upprepad, direkt frågeformulär eller användning av ordet "du" civila konversationer skulle gå fel. (Edtorens anteckning: För information om onlinequizzen, se slutet av den här artikeln.) ("Gissa vilken konversation som går fel" online frågesport: http://awry.infosci.cornell.edu/)

Tidiga utbyten som inkluderade hälsningar, tacksamhet, häckar som "det verkar" och orden "jag" och "vi" var mer benägna att förbli civila fann studien.

"Det finns miljoner sådana diskussioner som äger rum varje dag, och du kan inte övervaka dem alla. Ett system som bygger på detta resultat kan hjälpa de mänskliga moderatörerna att bättre rikta sin uppmärksamhet, säger Cristian Danescu-Niculescu-Mizil, biträdande professor i informationsvetenskap vid Cornell University och medförfattare av pappret.

"Vi, som människor, har en intuition om huruvida en konversation håller på att gå fel, men det är ofta bara misstanke. Vi kan inte göra det 100 procent av tiden. Vi undrar om vi kan bygga system för att replikera eller ens gå utöver denna intuition, säger Danescu-Niculescu-Mizil.

Datormodellen, som också ansåg Googles perspektiv, ett verktyg för maskininlärning för att utvärdera "toxicitet" var korrekt runt 65-procenten av tiden. Människor gissade korrekt 72 procent av tiden.

Människor kan testa sin egen förmåga att gissa vilka samtal som kommer att spåra i en onlinequiz.

Studien analyserade 1,270-konversationer som började civila men degenererade i personliga attacker, avlivade från 50-miljontalsamtal på 16-miljontals Wikipedia-talk-sidor, där redaktörer diskuterar artiklar eller andra problem. De undersökte utbyten i par och jämförde varje konversation som slutade illa med en som lyckades med samma ämne, så resultaten blev inte skevade av känsliga ämnen som politik.

Forskarna hoppas att denna modell kan användas för att rädda samtal vid risker och förbättra online-dialog, snarare än för att förbjuda specifika användare eller censurera vissa ämnen. Vissa online-affischer, som icke-engelska talare, kanske inte inser att de kunde uppfattas som aggressiva, och nudlar från ett sådant system skulle kunna hjälpa dem att självjustera.

"Om jag har verktyg som hittar personliga attacker är det redan för sent, för attacken har redan hänt och människor har redan sett det, säger co-author Jonathan P. Chang, doktorand vid Cornell. "Men om du förstår detta konversation går i dålig riktning och vidtar åtgärder så kan det göra platsen lite mer välkomnande."

Papperet, samskriven med ytterligare samarbetsparter på Jigsaw och Wikimedia Foundation, kommer att ingå i Association for Computational Linguistics årsmöte (juli 2018) i Melbourne, Australien.

*****

Gissa vilken konversation som går fel!

Online Quiz Instruktioner:

I den här uppgiften visas 15-konversationer. För varje konversation kommer du bara att se de två första kommentarerna i konversationen. Ditt jobb är att gissa, baserat på dessa konversationsstartare, vilket samtal är mer benägna att så småningom leda till en personlig attack från en av de två första användarna. 

Efter att du har besvarat varje fråga får du omedelbar återkoppling om ditt svar var korrekt (indikerat med grönt) eller felaktigt (anges med rött).

Mer information:

När du gör din gissning bör du använda följande definition av en personlig attack som referens:

A personlig attack är en kommentar som är oförskämd, förolämpande eller respektlös mot en person / grupp eller mot den personen / gruppens handlingar och / eller arbete.

Tänk på att du inte letar efter personliga attacker i kommentarerna som är visas. Snarare bör du använda din intuition av social dynamik för att bestämma vilken utbyte som är mer sannolikt att leda en av deltagarna att så småningom lägga in en personlig attack (som du inte visas). 

Ibland kan det verka som att varken citat sannolikt kommer att leda till en attack, eller att båda verkar lika troliga. Men kom ihåg att källkonversationerna redan har antecknats av människor, och det leder verkligen till en personlig attack. Gör ditt bästa för att "återställa" de befintliga etiketterna! 

Det här är inte en lätt uppgift, och det kan ta några minuter att svara på varje fråga. Eftersom det här är en svår uppgift, är de tre första frågorna "uppvärmda" frågor som inte påverkar din poäng; de är där för att hjälpa dig att "kalibrera" din känsla av vilka faktorer som sannolikt kommer att signalera framtida attacker. Men kom ihåg, Din uppgift är att återställa så många etiketter som möjligt. 

På grund av uppgiftens karaktär kan vissa av dessa kommentarer innehålla stötande innehåll. Vi är ledsna för det.

Klicka här för online frågesport.

Källa: Cornell University

relaterade böcker

at InnerSelf Market och Amazon