Hur Big Tech utformar sina egna etikregler för att undvika granskning och ansvarsskyldighet

Hur Big Tech utformar sina egna etikregler för att undvika granskning och ansvarsskyldighet

Datateknik är nu en orsak célèbre.

"Digital etik och integritet" sköt in i forskning och rådgivande företag Gartner topp tio strategiska tekniktrender för 2019. Innan det höjde det knappt ett omnämnande.

I det senaste året regeringar, företag och politik och teknik tanken tankar har publicerat datateknik guider. En fullständig kohort av expertdatatetiker har materialiserats magiskt.

Varför detta plötsliga intresse för datateknik? Vad är datateknik? Vilka intressen är riktlinjerna för att tjäna?

För att förstå vad som händer är det nödvändigt att ta ett steg tillbaka och titta på hur informationslandskapet har utvecklats.

Bilden som framträder är av en industri som är immun mot de regleringsbegränsningar som gäller för alla andra.

Skenan har gått

Under de senaste åren har informationsbranschen förlorat sin glans.


Få det senaste från InnerSelf


Vårt Snowden avslöjanden, den Cambridge Analytica-skandalen, sociala medier möjliggör hatpropaganda, den vapentisering av information och dess roll i att undergräva demokratiska institutioner har alla bidragit.

Affärsmodellen som monetiserar personlig information för att sälja reklam betraktas nu som ett fientligt fynd - kanske är uppoffringen inte värt det. Från 2017 till 2018 fanns en 6% droppe i Facebook-användare i USA i den lukrativa 12-34-åriga marknaden.

Dessa bekymmer har lett till krav på reglering. Men dessa har kämpat för att få dragkraft mot den rådande regelmatiska ortodoxin för teknologisektorn. Detta går tillbaka till Al Gores fem principer för att möjliggöra vad som då kallades "den globala informationen superhighway".

Princip tre var att regleringspolitiken skulle "skapa ett flexibelt regelverk som kan hålla takt med snabba tekniska och marknadsförändringar". Detta var kod för ingen reglering, eller självreglering. I Australien var det känt som "Light touch" -reglering.

Big tech handlade med regelbunden straffrihet, som i stor utsträckning befriades från den "gamla" ekonomins vardagliga farhågor, såsom konsumentskydd eller produktansvar eller konkurrenslagstiftning eller i synnerhet informationssäkerhet.

Cirklar närmare

Europa har aldrig helt antagit denna laissez-faire-strategi. Informationslivets integritet har alltid varit högt på sin agenda, vilket kulminerade i 2018 Allmänna dataskyddsförordningen (BRP). Detta ger individer i Europeiska unionen de mest omfattande uppgifterna om skydd av personuppgifter i världen. Rätterna har extraterritorial räckvidd, involverar tillsynsskydd och anställer civila böter av ögonvattenstorlek. Andra jurisdiktioner börjar följa med.

Parallellt börjar regulatorer från andra discipliner att cirkla. Antitrustregulatorer tittar på nytt i informationsmonopol och stortekniks användning av marknadsmakt för att begränsa konkurrensen.

I Australien har ACCC krävt a ny tillsynsmyndighet att övervaka och undersöka effekten av algoritmer på ranking nyheter och journalistiskt innehåll.

Den brittiska valda kommittén för kommunikationsrapport om reglering i en digital värld har rekommenderade en ny digital myndighet att övervaka den "fragmenterade" förordningen av den digitala miljön kring tio regleringsprinciper och notera att "[s] elfreglering via onlineplattformar klart misslyckas". Mänskliga rättigheter regulatorer undersöker algoritmernas roll när det gäller att skapa och förankra diskriminering.

Data betyder pengar

Big tech vill inte regleras. Det vill inte ha sin obegränsade möjlighet att skörda personuppgifter för att vara begränsad eller för att skydda GDPR-typ för att bli den globala normen. Personlig information är råmaterialet för algoritmerna som gör det möjligt att tjäna pengar på vår uppmärksamhet.

För en bransch som är stolt över att vara "störande", är storteknikens största ångest att förhindra den stramande lagstiftningsmiljön för att undvika att bli störd. Datateknik är ett sätt de har utvecklat för att bekämpa reglering. Det gör det genom att anslå de dygder som är förenade med etik, men genom att tömma dem om innehåll eller konsekvens.

Ta Googles principer för AI. (AI är artificiell intelligens). Dessa är:

  • vara socialt gynnsam
  • undvika att skapa eller förstärka orättvisa bias
  • byggas och testas för säkerhet
  • vara ansvarig för människor
  • införliva principer för integritetsdesign
  • upprätthålla höga standarder för vetenskaplig excellens
  • ställas till förfogande för användningar som överensstämmer med dessa principer.

Dessa "principer" är påfallande lik de välsmakande homilierna som publiceras på Instagram, som uppmanar oss att "vara goda mot varandra" eller inte "låta solen gå ner på vår ilska" och är ungefär lika användbara.

Verkligen? Skärmdump fångad mars 28 2019

Sätt på provet

Låt oss testa ett av Googles principer, "vara ansvariga för människor".

Det finns flera lager av tvetydighet här. Betecknar det att Googles AI-algoritmer borde vara ansvariga för "människor" i allmänhet, Googles "människor" eller någon annans "människor" som en oberoende regulator?

Om den senare kommer Google att leverera algoritmen för analys, korrigera eventuella fel och betala ersättning för skadad skada?

Om Google AI-algoritmer misstänker att jag är en terrorist och sedan vidarebefordra denna information till nationella säkerhetsorgan som använder informationen för att arrestera mig, hålla mig inkommunicado och förhör mig, kommer Google att vara ansvarig för vår försummelse eller för att bidra till min falska fängelse? Hur kommer det att vara ansvarigt? Om jag är missnöjd med Googles version av ansvarighet, vem åberopar jag för rättvisa?

Användbar etik innebär ansvarsskyldighet

Etik handlar om de moraliska principerna som påverkar hur individer fattar beslut och hur de leder sina liv.

Etik har studerats och debatterats för aeons. Inom västra traditioner spåras etik tillbaka till Sokrates. De innefattar filosofiska ståndpunkter som deontologiska (pliktbaserade) etik, konsekvensism, utilitarism och existentialism, för att bara nämna några. Inte överraskande, ingen av dessa ger samma svar på frågor om vad en individ måste göra under några särskilda omständigheter.

"Tillämpad etik" syftar till att ta med sig etiska principer i verkliga situationer. Det finns många exempel.

Offentlig sektor etik styrs av lag. Det finns konsekvenser för dem som bryter mot dem, inklusive disciplinära åtgärder, uppsägning av anställning och ibland straffrättsliga påföljder. För att bli advokat, var jag tvungen att bevisa för en domstol att jag är en "lämplig och riktig person". För att fortsätta att träna, är jag skyldig att följa detaljerade krav som anges i Australian Conduct Rules. Om jag bryter mot dem finns konsekvenser.

Funktionerna i tillämpad etik är att de är specifika, det finns feedback loopar, vägledning finns, de är inbäddade i organisatorisk och professionell kultur, det finns korrekt övervakning, det finns konsekvenser när de bryts och det finns oberoende mekanismer för verkställighet och verkliga lösningar . De är en del av en reglerande apparat och inte bara "må bra" uttalanden.

Kännsamma, höga datatekniska principer är inte lämpliga för att reglera storteknik. Tillämpad etik kan spela en roll, men eftersom de är yrke eller disciplinspecifika kan de inte lita på att göra allt, eller till och med det mesta av den tunga lyftningen.

De skador som är kopplade till storteknik kan endast åtgärdas genom korrekt reglering.Avlyssningen

Om författaren

David Watts, professor i informationsrätt och politik, La Trobe University

Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.

Relaterade böcker:

{amazonWS: searchindex = Böcker; nyckelord = digitala monopol; maxresultat = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

följ InnerSelf på

facebook-icontwitter-iconrss-icon

Få det senaste via e-post

{Emailcloak = off}

FRÅN REDAKTORERNA

Räkningsdagen har kommit för GOP
by Robert Jennings, InnerSelf.com
Det republikanska partiet är inte längre ett politiskt parti i USA. Det är ett illegitimt pseudopolitiskt parti fullt av radikaler och reaktionärer vars uttalade mål är att störa, destabilisera och ...
Varför Donald Trump kunde vara historiens största förlorare
by Robert Jennings, InnerSelf.com
Uppdaterad 2 juli 20020 - Hela coronavirus-pandemin kostar en förmögenhet, kanske 2 eller 3 eller 4 förmögenheter, alla av okänd storlek. Åh ja, och hundratusentals, kanske en miljon människor kommer att dö ...
Blåögon vs bruna ögon: Hur rasism lärs ut
by Marie T. Russell, InnerSelf
I detta avsnitt från Oprah Show från 1992 lärde den prisbelönta antirasismaktivisten och utbildaren Jane Elliott publiken en tuff lektion om rasism genom att visa hur lätt det är att lära sig fördomar.
En förändring kommer att komma...
by Marie T. Russell, InnerSelf
(30 maj 2020) När jag tittar på nyheterna om händelserna i Philadephia och andra städer i landet verkar mitt hjärta efter det som händer. Jag vet att detta är en del av den större förändringen som sker ...
En låt kan lyfta hjärtat och själen
by Marie T. Russell, InnerSelf
Jag har flera sätt som jag använder för att rensa mörkret från mitt sinne när jag upptäcker att det har snett i. En är trädgårdsarbete eller spendera tid i naturen. Den andra är tystnad. Ett annat sätt är läsning. Och en som ...