Vet du vad som händer när du delar dina data? mtkang / shutterstock.com

Varje aspekt av livet kan styras av artificiella intelligensalgoritmer - från att välja vilken väg som ska tas för din morgon pendlar, att bestämma vem som ska ta ett datum, till komplexa rättsliga och rättsliga frågor, såsom prediktiv polis.

Big tech-företag som Google och Facebook använder AI för att få insikter på deras gigantiska trov av detaljerade kunddata. Detta gör det möjligt för dem att tjäna pengar på användarnas kollektiva preferenser genom metoder som mikrotikning, en strategi som används av annonsörer för att snävt rikta in specifika användargrupper.

Parallellt litar många nu på plattformar och algoritmer mer än sina egna regeringar och medborgarskap. En oktober 2018-studie föreslog att människor demonstrerar "algoritm uppskattning, "I den utsträckning att de skulle förlita sig på råd mer när de tror att det kommer från en algoritm än från en människa.

Tidigare har tekniska experter oroat sig för a "digitala klyftan" mellan dem som kunde komma åt datorer och internet och de som inte kunde. Hushåll med mindre tillgång till digital teknik har en nackdel i deras förmåga att tjäna pengar och samla färdigheter.

Men när digitala enheter sprider sig, handlar inte klyftan bara om åtkomst. Hur hanterar människor överbelastning av information och de överflödiga algoritmiska beslut som genomtränger alla aspekter av deras liv?

Savvier-användare navigerar bort från enheter och blir medvetna om hur algoritmer påverkar deras liv. Under tiden har konsumenter som har mindre information förlitar sig ännu mer på algoritmer för att styra sina beslut.

Ska du hålla kontakten - eller koppla ur? Pryzmat / shutterstock.com

Den hemliga såsen bakom artificiell intelligens

Den främsta orsaken till den nya digitala klyftan är enligt min åsikt som någon som studerar informationssystem så få människor förstår hur algoritmer fungerar. För en majoritet av användare ses algoritmer som en svart låda.

AI-algoritmer tar in data, anpassar dem till en matematisk modell och lägger fram en förutsägelse, allt från vilka låtar du kan njuta av till hur många år borde någon spendera i fängelse. Dessa modeller är utvecklade och tweaked baserat på tidigare data och framgången av tidigare modeller. De flesta människor - även ibland själva algoritmdesignerna själva - vet inte riktigt vad som går inuti modellen.

Forskare har länge varit oroad över om algoritmisk rättvisa. Amazons AI-baserade rekryteringsverktyg visade sig till exempel avfärda kvinnliga kandidater. Amazons system extraherades selektivt implicit gendered ord - Ord som män brukar använda i vardagligt tal, som "utförda" och "fångade".

Andra studier har visat att rättsliga algoritmer är rasistiskt förspända, dömande fattiga svarta svaranden längre än andra.

Som en del av den nyligen godkända Allmänna dataskyddsförordningen i Europeiska unionen har människor "En rätt till förklaring" av de kriterier som algoritmer använder i sina beslut. Denna lagstiftning behandlar processen med algoritmiska beslutsfattande som en receptbok. Tanken är att om man förstår receptet kan man förstå hur algoritmen påverkar ditt liv.

Under tiden har vissa AI-forskare drivit för algoritmer som är rättvis, ansvarig och transparent, såväl som tydbar, vilket innebär att de borde komma fram till sina beslut genom processer som människor kan förstå och lita på.

Vilken effekt kommer insynen ha? I en studie, var eleverna graderade med en algoritm och erbjöd olika nivåer av förklaring om hur deras jämställdhetspoäng anpassades för att komma till slutbetyg. Eleverna med mer genomskinliga förklaringar litade faktiskt på algoritmen mindre. Detta föreslår igen en digital delning: Algoritmisk medvetenhet leder inte till mer förtroende för systemet.

Men öppenhet är inte ett paradis. Även när en algoritms övergripande process skisseras ut, detaljerna kan fortfarande vara för komplexa för användarna att förstå. Genomskinlighet hjälper bara användare som är sofistikerade nog att förstå algoritmernas komplexitet.

Till exempel, i 2014, var Ben Bernanke, den tidigare ordföranden för Federal Reserve, ursprungligen nekade en hypoteksl refinansiering med ett automatiserat system. De flesta individer som ansöker om en sådan hypoteksl refinansiering skulle inte förstå hur algoritmer kan bestämma sin kreditvärdighet.

Vad säger algoritmen att göra idag? Maria Savenko / shutterstock.com

Val av det nya informationsekosystemet

Medan algoritmer påverkar så mycket av människors liv är bara en liten del av deltagarna sofistikerade att fullt ut engagera sig i hur algoritmer påverkar deras liv.

Det finns inte många statistik om antalet personer som är medvetna om algoritmen. Studier har funnit bevis på algoritmisk ångest, vilket leder till en djup obalans mellan makten mellan plattformar som distribuerar algoritmer och Användarna som är beroende av dem.

En studie av Facebook-användningen fann att när deltagare fick kännedom om Facebooks algoritm för att kurera nyhetsflöden, ändrade 83% av deltagarna sitt beteende för att försöka dra fördel av algoritmen, medan 10% minskade användningen av Facebook.

En november 2018 rapport från Pew Research Center fann att en stor majoritet av allmänheten hade stora bekymmer om användningen av algoritmer för specifika användningsområden. Det fann att 66% trodde att det inte vore rättvist för algoritmer att beräkna personalkostnader, medan 57% sa detsamma om automatiserad CV-screening.

En liten del av individer har viss kontroll över hur algoritmer använder sina personuppgifter. Till exempel tillåter Hu-Manity-plattformen användare ett alternativ att kontrollera hur mycket av deras data samlas in. Online-encyklopedin Everipedia ger användarna möjligheten att vara en intressent i processen med curation, vilket innebär att användarna också kan styra hur information aggregeras och presenteras för dem.

En stor majoritet av plattformar ger emellertid inte någon sådan flexibilitet till slutanvändarna eller rätten att välja hur algoritmen använder sina preferenser för att kurera deras nyhetsflöde eller rekommendera dem innehåll. Om det finns alternativ kan användare kanske inte veta om dem. Om 74% av Facebook: s användare sa i en undersökning att de var inte medveten om hur plattformen karaktäriserar sina personliga intressen.

Enligt min mening använder den nya digitala läskunnigheten inte en dator eller på internet, men förstår och utvärderar konsekvenserna av en alltid kopplad livsstil.

Denna livsstil har en meningsfull inverkan på hur människor interagerar med andra; på deras förmåga att var uppmärksam på ny information; och igen komplexiteten i sina beslutsprocesser.

Ökande algoritmisk ångest kan också speglas av parallella förändringar i ekonomin. En liten grupp individer är fånga vinsterna från automatisering, medan många arbetare är i en osäkert läge.

Att välja ut från algoritmisk härdning är en lyx - och kan en dag vara en symbol för välstånd som bara är tillgänglig för ett fåtal. Frågan är då vad mätbara skador kommer att vara för dem på fel sida av den digitala klyftan.

Om författaren

Anjana Susarla, docent i informationssystem, Michigan State University

Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.

relaterade böcker

at InnerSelf Market och Amazon