Oavsett hur oskyldigt du tycker är det, vad du skriver in i sökmotorer kan forma hur internet beter sig. Hannah Wei / unsplash, CC BY

Har du någonsin funnit att det du skriver in i Google, eller de ironiska memes som du skrattar åt på Facebook, kan bygga en mer farlig onlinemiljö?

Regleringen av onlinebutiker börjar samla fart, med regeringar, konsumentgrupper och till och med digitala företag själva begär mer kontroll över vad som publiceras och delas online.

Ändå misslyckas vi ofta med att känna igen den roll som du, jag och oss alla som vanliga medborgare spelar för att forma den digitala världen.

Privativet att vara online kommer med rättigheter och ansvar, och vi måste aktivt fråga vilken sorts digitalt medborgarskap vi vill uppmuntra.

Utöver knäskytten

Christchurch-terrorattacken ledde till politiska förändringar av regeringar i både Nya Zeeland och Australien.

Australien passerade nyligen a ny lag som kommer att genomföra sanktioner för sociala medier-plattformar om de inte tar bort våldsamt innehåll efter att det blir tillgängligt online.

Plattformar kan väl ligga kvar i deras ansvar för innehållsmöjligheter och behöver fortfarande Gör bättre i detta avseende. Men den här typen av "kneejerk"Politiskt svar kommer inte att lösa spridningen av problematiskt innehåll på sociala medier.

Adressering av hat på nätet kräver samordnade ansträngningar. Plattformar måste förbättra verkställigheten av sina regler (inte bara meddela hårdare åtgärder) för att garantera användarnas säkerhet. De kan också ompröva en seriös omkonstruktion, eftersom det sätt de för närvarande organiserar, väljer och rekommenderar information förstärker ofta systemiska problem i samhället som rasism.

Diskriminering är förankrad

Naturligtvis lever inte fördjupade övertygelser och innehåll bara online.

I Australien, rasdiskriminering har fortgått i allmän ordning, och landet har en orapporterad historia av inhemsk dispossession och förtryck.

Idag Australiens politiska mainstream är fortfarande lindrig med bigots och media bidrar ofta att frukta om invandring.

Vi kan dock alla spela en roll för att minska skadan online.

Det finns tre aspekter som vi kanske kan överväga när vi interagerar online för att förneka syre till rasistiska ideologier:

• En bättre förståelse för hur plattformar fungerar
• Utvecklingen av empati att identifiera skillnader i tolkning när man engagerar sig i media (istället för att fokusera på avsikt)
• arbetar mot en mer produktiv anti-racism på nätet.

Online lurkers och förstärkning av skada

Vita supremacists och andra reaktionära pundits söker uppmärksamhet på vanliga och sociala medier. Nya Zeeland premiärminister Jacinda Ardern vägrade att namnge Christchurch gunman för att förhindra att han fyller sin önskade beröm, och det gjorde också några medier.

Resten av oss kan dra tröst från att inte ha bidragit till att förstärka Christchurch-angriparens önskvärda berömmelse. Det är troligt att vi inte tittade på hans video eller läst hans manifest, än mindre ladda upp eller dela innehållet på sociala medier.

Men vad sägs om tydligen mindre skadliga metoder, som att söka på Google och sociala medier webbplatser för nyckelord relaterade till gunman manifest eller hans levande video?

Det är inte meningen med dessa praxis som borde vara i fokus för denna debatt, men konsekvenserna av den. Våra vardagliga interaktioner på plattformar påverka söka autofullständiga algoritmer och den hierarkiska organisationen och rekommendationen av information.

I Christchurch-tragedin, även om vi inte delar eller laddar upp manifestet eller videon, körde iver att få tillgång till denna information trafik till problematiskt innehåll och förstärkt skada för den muslimska gemenskapen.

Normalisering av hat genom till synes lätthjärtad humor

Reaktionsgrupper vet hur man ska kapitalisera på memes och annat jokey-innehåll som bryts ned och dehumaniserar.

Genom att använda ironi till förneka Rasismen i dessa skämt, dessa högra grupper kopplar samman och fördjupa nya medlemmar i en onlinekultur som medvetet använder memetiska medier för att ha kul på andras bekostnad.

Christchurch terrorattack visade detta anslutning mellan online-ironi och radikalisering av vita män.

Men humor, ironi och lek - som är skyddade på plattformspolitiken - tjänar till att krama rasism i mer vardagliga och vardagliga sammanhang.

Precis som vardaglig rasism delar diskurser och vokabularier med vit överhöghet, lättsam rasistiska och sexistiska skämt är lika skadliga som online fascistisk ironi.

Humor och satir borde inte gömmer sig för okunnighet och bigotry. Som digitala medborgare borde vi vara mer försiktiga med vilka slags skämt vi engagerar och skrattar åt på sociala medier.

Vad som är skadligt och vad som är ett skämt kanske inte är uppenbart när man tolkar innehållet från en begränsad världsutsikt. Utvecklingen av empati till andras tolkningar av samma innehåll är en användbar skicklighet för att minimera förstärkningen av rasistiska ideologier online.

Som forskare danah boyd argumenterar:

Målet är att förstå de olika sätten att skapa känsla för världen och använda det för att tolka media.

Effektiv anti-rasism på sociala medier

En vanlig praxis i utmanande rasism på sociala medier är att offentligt kalla det och visa stöd för dem som är offer för det. Men kritiker av sociala medier kallad kultur och solidaritet sustain att dessa taktik ofta inte fungerar som ett effektivt antirasismverktyg, eftersom de är performativa snarare än att ha en förtalseffekt.

Ett alternativ är att kanalisera uppror till mer produktiva former av anti-rasism. Du kan till exempel rapportera hatfullt onlineinnehåll antingen enskilt eller genom organisationer som redan arbetar med dessa problem, till exempel Online Hate Prevention Institute och Islamofobi Registrera Australien.

De flesta stora sociala medier-plattformar kämpar för att förstå hur hat artikulerar i icke-amerikanska sammanhang. Rapportering av innehåll kan hjälpa plattformar förstår kulturspecifika kodade ord, uttryck och skämt (de flesta är medierade genom visuella medier) som moderatorer kanske inte förstår och algoritmer kan inte identifiera.

Som digitala medborgare kan vi arbeta tillsammans för att neka uppmärksamhet åt dem som försöker diskriminera och orsaka skada på nätet.

Vi kan också lära oss hur våra vardagliga interaktioner kan få oavsiktliga följder och faktiskt förstärka hat.

Dessa idéer minskar dock inte plattformens ansvar för att skydda användarna, och de negerar inte regeringarnas roll att hitta effektiva sätt att reglera plattformar i samarbete och samråd med det civila samhället och industrin.

Om författaren

Ariadna Matamoros-Fernández, docent i Digital Media vid School of Communication, Queensland University of Technology

Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.

relaterade böcker

at InnerSelf Market och Amazon