Facebook har för första gången gjort tillgänglig data på omfattning av missbrukande kommentarer postat till sin webbplats. Detta kan ha gjorts under det växande trycket från organisationer för sociala medier att vara mer transparent om online missbruk, eller för att få trovärdighet efter Cambridge Analytica dataskandal. Hur som helst gör siffrorna inte en trevlig läsning.
In en sexmånadersperiod från oktober 2017 till mars 20178, 21m sexuellt explicit bilder, 3.5m grafiskt våldsamma inlägg och 2.5m-former av hattal togs bort från dess webbplats. Dessa siffror hjälper till att avslöja några slående punkter.
Som förväntat indikerar data att problemet blir värre. Till exempel, mellan januari och mars uppskattades att för varje 10,000-meddelande online, mellan 22 och 27 innehöll grafiskt våld, upp från 16 till 19 under de föregående tre månaderna. Detta sätter i skarp lindring det faktum att i Storbritannien har åtal för online missbruk minskat, vilket visas i diagrammet nedan.
Men vad Facebook inte har sagt till oss är lika viktigt.
Det sociala nätverket har varit under växande tryck att bekämpa missbruk på webbplatsen, i synnerhet borttagandet av terroristpropaganda efter händelser som 2017 Westminster attack och Manchester Arena bombning. Här har företaget varit proaktivt. Mellan januari och mars 2018 tog Facebook bort 1.9m-meddelanden som uppmuntrar till terroristpropaganda, en ökning av 800,000-kommentarer jämfört med de föregående tre månaderna. Totalt 99.5% av dessa meddelanden var placerade med hjälp av avancerad teknik.
Vid första anblicken ser det ut som Facebook har framgångsrikt utvecklat programvara som kan ta bort innehållet från servern. Men Facebook har inte släppt siffror som visar hur utbredd terrorist propaganda finns på sin webbplats. Så vi vet verkligen inte hur framgångsrik mjukvaran är i detta avseende.
Ta bort våldsamma inlägg
Facebook har också använt teknik för att hjälpa till med att avlägsna grafiskt våld från sin webbplats. Mellan de två tre månaderna var det en ökning av 183% i antalet borttagna poster som märktes grafiskt våldsamma. Totalt 86% av dessa kommentarer flaggades av ett datorsystem.
Men vi vet också att Facebooks siffror visar att upp till 27 av alla 10,000-kommentarer som gjorde det förbi detekteringstekniken innehöll grafiskt våld. Det låter inte som många men det är värt att överväga det stora antalet sammanlagda kommentarer som läggs ut på webbplatsen av dess mer än 2 miljard aktiva användare. En uppskattning föreslår att 510,000 kommentarer läggs ut varje minut. Om det är korrekt, skulle det innebära att 1,982,880 våldsamma kommentarer skickas varje 24-timme.
För att kompensera för misslyckanden i detekteringsprogrammet har Facebook, liksom andra sociala nätverk, i många år åberopat självreglering, med användarna uppmuntras att rapportera kommentarer de tror inte borde vara på platsen. Till exempel, från januari till mars 2018, tog Facebook bort 2.5m-kommentarer som ansågs hate speech, men endast 950,000 (38%) av dessa meddelanden hade flaggats av systemet. De andra 62% rapporterades av användarna. Detta visar att Facebook: s teknik misslyckas med att på ett adekvat sätt bekämpa hattal på sitt nätverk, trots den växande oro som sociala nätverk bränsle hatar brott i den verkliga världen.
Hur många kommentarer rapporteras?
Detta leder oss till den andra signifikanta siffran som inte ingår i uppgifterna från Facebook: det totala antalet kommentarer som rapporterats av användarna. Eftersom det här är en grundläggande mekanism för att hantera onlinemissbruk bör antalet rapporter som görs till företaget offentliggöras. Detta kommer att göra det möjligt för oss att förstå den fulla omfattningen av missbruk av kommentarer som görs online, samtidigt som det rensas totalt antal meddelanden som Facebook inte tar bort från webbplatsen.
Facebook: s beslut att släppa ut data som exponerar omfattningen av missbruk på webbplatsen är ett viktigt steg framåt. Twitter, däremot, bad om liknande information men vägrade att släppa det och hävda att det skulle vara vilseledande. Det är uppenbart att inte alla kommentarer som flaggas av användare av sociala nätverkssajter bryter mot villkoren. Men Twitters underlåtenhet att släppa denna information tyder på att företaget inte är villigt att avslöja omfattningen av missbruk på sin egen webbplats.
Men även Facebook har fortfarande en lång väg att gå för att få till total öppenhet. Helst skulle alla sociala nätverksplatser släppa årliga rapporter om hur de hanterar missbruk online. Detta skulle göra det möjligt för tillsynsmyndigheter och allmänheten att hålla företagen mer direkt för att ta hänsyn till misslyckanden för att ta bort onödigt missbruk från sina servrar.
Men även Facebook har fortfarande en lång väg att gå för att få till total öppenhet. Helst skulle alla sociala nätverksplatser släppa årliga rapporter om hur de hanterar missbruk online. Detta skulle göra det möjligt för tillsynsmyndigheter och allmänheten att hålla företagen mer direkt för att ta hänsyn till misslyckanden för att ta bort onödigt missbruk från sina servrar.Om författaren
Laura Bliss, doktorand i social media lag, Edge Hill University
Den här artikeln publicerades ursprungligen den Avlyssningen. Läs ursprungliga artikeln.
Relaterade böcker:
at InnerSelf Market och Amazon
