Privata företag poliserar online hat utan oberoende tillsyn eller reglering, vilket har allvarliga konsekvenser och utgör risker för grundläggande mänskliga rättigheter och friheter. (Shutterstock)

Den facklampade marschen av beväpnade vita supremacister nyligen i Charlottesville, Va., Fortsätter att skapa en debatt om hur hatgrupper ska regleras. I takt med det växande offentliga trycket efter marsch, rusade internetföretag att ta bort från sina plattformar webbplatser som hävdar våldsamt hattal.

Kör pappa terminerade sina domän tjänster till neo-nazistiska hemsidan Daily Stormer, liksom Google. Cloudflare, ett företag som skyddar webbplatser från onlineattacker, också förbjudits hatarwebbplatsen från sin plattform. Ryssland beordrade platsen spärrad från att vara värd i landet.

Min undersökning och min bok Chokepoints: Global Private Regulation på Internet visa att många internetföretag redan tar bort innehåll och förbjuder användare "frivilligt" - det vill säga i avsaknad av lagstiftning eller några rättsliga processer. Stora mellanhänder, inklusive Google, PayPal, GoDaddy, Twitter och Facebook, poliserar frivilligt sina plattformar för innehåll för barn, sexuella övergrepp, extremism och olaglig handel med förfalskade varor.

Många människor förstår förståeligt dessa ansträngningar för att stämpla ut hattal och annat motbjudande innehåll. Men internetföretagens ansträngningar som de facto talesättare väcker allvarliga frågor: Hur ska regler på nätet regleras? Av vem?

Jag stöder inte vita supremacists och jag argumenterar inte mot någon polis av sådant tal. Snarare säger jag att vi måste överväga allvarligt hur man reglerar innehållet på nätet, eftersom nästa fall kanske inte är lika klart.

Det finns betydande problem med att förlita sig på kraftfulla företag att polisera internet eftersom deras tillämpningsförfaranden är oroligt ogenomskinliga och utsatta för godtycklig tolkning.

Störande prejudikat

I en avskyvärda kontrast till internetföretagens uppmaning för sin offentliga motstånd mot Daily Stormer erbjöd Cloudflares vd Matthew Prince ett nyanserat försiktighetsperspektiv, varning om att återkallande av tjänster från hatgrupper som svar på det offentliga trycket sätter ett oroväckande prejudikat vid polisens onlinetal .

I en blogginlägg förklarade Cloudflares åtgärder mot Daily Stormer, hävdade prins att företaget anser att processen är en "viktigare princip" än yttrandefrihet. Med tanke på processen, säger han, att "du borde kunna känna till de regler som ett system kommer att följa om du deltar i det systemet." Detta uttalande tar till sig de inneboende problemen med mellanhänder som arbetar som de facto regulatorer för innehåll och onlinebetehandling.

Tidigare i år, Shopify anställda och hundratals tusentals människor uppmanade och petitioned online-handelsplattformen för att stoppa värd för högra Breitbart Medias internetbutik. Återställd verkställande ordförande Stephen Bannon samtal Breitbart "plattformen för alt-höger." Den så kallade "alt-rätt" - en term populär av Richard Bertrand Spencer - täcker en blandning av vit supremacist, separatistiska, neo-nazistiska, fascistiska, rasistiska, antisemitiska, islamofobiska och populistiska konservativa ideologier.

Shopify VD Tobias Lütke sa att han försvarade yttrandefrihet som Ottawa-företaget fortsatte att vara värd för Breitbarts webbutik som hotas av anställda avgår. Efter allmänheten tryck och en gräsrots kampanj kallas #DeleteShopify ledde till granskning som avslöjade mer tvivelaktigt företag, Shopify var tvingas att anta en "Godtagbar användningspolicy".

De kontrasterande exemplen på The Daily Stormer och dess radering av internetföretag, och Shopifys ständiga stöd för Breitbart, visar extremiteter av ett dilemma som bara lovar att intensifiera.

Godtycklig politik, reglering

Internetförmedlare har potential att vara kraftfulla tillsynsmyndigheter på ett brett spektrum av problem eftersom de kan agera snabbt och utan domstolsordningar. Viktigt är att de har latitud för att censurera innehåll eller förbjuda användare enligt deras tjänsteavtal.

PayPal förbehåller sig rätten att säga upp sina tjänster till användarna "av någon anledning och när som helst, "Språk som är echoed i de flesta mellanhänders serviceavtal. Kapaciteten för godtycklig reglering är således bakad i mellanhänders interna regler.

Prince varnade för att Cloudflares åtgärd mot Daily Stormer ställer prejudikat för mellanhänder till polistal utan domstolsordningar som kräver att de gör det.

Dessa mellanhänder agerar ofta efter regeringar som föredrar att företagen är offentliga (men i stort sett oförklarliga) införande av internetreglering. Men dessa företag är i allmänhet dåligt utrustade för att skilja rättsligheten från olaglighet, orsaka felaktiga takedowns och felaktigt inriktar sig på lagligt beteende.

Lika problematiskt: Intermediaries handläggningsprocesser är ofta ogenomskinliga eftersom deras innehållsmedlemmar tolkar sina komplicerade, snabbt växande interna regler på godtyckligt sätt. Dessa problem förstärks av förmedlares växande användning av automatiserade verktyg för att identifiera och ta bort problematiskt innehåll på sina plattformar.

Det finns också oro för så kallade mission-creep när regler som först infördes mot barnmisshandel eller terrorism - anmärkningsvärda katalysatorer för verkställighetsåtgärder - tillämpas senare på andra tydligt mindre skadliga problem, såsom obehörig nedladdning av upphovsrättsligt innehåll.

Dystopisk framtid är här

Regulatoriska ansträngningar utökar vanligen från att censurera våldsamt hattal till andra tal som kan betraktas kontroversiella av vissa, till exempel Black Life's Matter. Dessutom trycker regeringar över hela världen regelbundet på mellanhänder censur och spår kritiker och politiska motståndare.

När stora mellanhänder blir tillsynsmyndigheter som ansvarar för att polisera innehåll på uppdrag av regeringar eller som svar på högprofilerade protester, ökar deras redan stora kraft. USA-baserade internetföretag dominerar redan många industrisektorer, inklusive sökning, reklam, domänregistrering, betalning och sociala medier. Cloudflare prins med rätta varnade att genom ett "få jätte nätverk" kommer ett "litet antal företag i stor utsträckning att bestämma vad som kan och kan inte vara online."

Denna dystopiska framtid är redan här.

Tack för Daily Stormer gör världen utan tvekan en bättre plats. Men vill vi verkligen att företag som Facebook och Twitter ska besluta - oberoende, godtyckligt och hemligt - vilket innehåll vi kan komma åt och dela med?

Med tanke på dessa till synes oupphörliga problem, vad kan vi göra? För det första bör vi undvika styrning på grundval av protester eller medietryck. Istället, Vi behöver en tydlig uppsättning regler för att möjliggöra förmedlare att reagera konsekvent, öppet och med respekt för rättvisa processer, som Prince rekommenderade.

Regeringarna bör klargöra karaktären av och, viktigare, gränserna för mellanhänderens regleringsansvar. Slutligen måste vi sluta reglera som svar på specifika kriser - så kallade "falska nyheter", terrorism och hatgrupper - och istället tänka kritiskt på hur vi kan och ska reglera internet.

Om författaren

Natasha Tusikov, biträdande professor, kriminologi, Institutionen för samhällsvetenskap, York University, Kanada

Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.

relaterade böcker

at InnerSelf Market och Amazon