YouTubes algoritmer kan radikalisera människor - men det verkliga problemet har vi ingen aning om hur de fungerar

YouTubes algoritmer kan radikalisera människor - men det verkliga problemet har vi ingen aning om hur de fungerar Herr Tempter / Shutterstock

Skapar YouTube extremister? EN färsk studie orsakade argument bland forskare genom att hävda att algoritmerna som driver webbplatsen inte hjälper att radikalisera människor genom att rekommendera allt mer extrema videor, som har föreslagits på senare år.

Uppsatsen, överlämnad till dagbok med öppen åtkomst första måndagen men ännu inte formellt granskad, analyserade videorekommendationer från olika typer av kanaler. Den hävdade att YouTubes algoritm gynnar mainstream-mediekanaler över oberoende innehåll och drog slutsatsen att radikalisering har mer att göra med de människor som skapar skadligt innehåll än webbplatsens algoritm.

Specialister inom fältet var snabba in svar på studien, med en del kritik papperets metoder och andra som argumenterade för algoritmen var en av flera viktiga faktorer och den datavetenskapen ensam kommer inte att ge oss svaret.

Problemet med denna diskussion är att vi egentligen inte kan svara på frågan om vilken roll YouTubes algoritm spelar för att radikalisera människor eftersom vi inte förstår hur det fungerar. Och detta är bara ett symptom på ett mycket bredare problem. Dessa algoritmer spelar en allt större roll i vårt dagliga liv men saknar någon form av insyn.

Det är svårt att hävda att YouTube inte spelar någon roll i radikalisering. Detta påpekades först av teknologisociologen Zeynep Tufekci, som illustrerade hur rekommenderade videor gradvis driver användare mot mer extremt innehåll. I Tufekcys ord leder videor om jogging till videor om att köra ultramarathoner, videor om vacciner leder till konspirationsteorier och videor om politik leder till ”Förnekelse av förintelser och annat störande innehåll”.

Detta har också skrivits om i detalj av fd YouTube-anställd Guillaume Chaslot som arbetade med webbplatsens rekommendationsalgoritm. Sedan han lämnade företaget har Chaslot fortsatt att försöka göra dessa rekommendationer mer transparent. Han säger att YouTube-rekommendationer är partiska mot konspirationsteorier och faktiskt felaktiga videor, som ändå får människor att spendera mer tid på webbplatsen.

I själva verket, maximera vattentiden är hela poängen med YouTubes algoritmer, och detta uppmuntrar videospelare att kämpa för uppmärksamhet på vilket sätt som helst. Företagets rena bristande insyn om exakt hur detta fungerar gör det nästan omöjligt att bekämpa radikalisering på webbplatsen. Trots allt är det svårt att veta vad som kan ändras för att förbättra situationen utan öppenhet.


Få det senaste från InnerSelf


YouTubes algoritmer kan radikalisera människor - men det verkliga problemet har vi ingen aning om hur de fungerar Hur Youtube algoritm fungerar förblir ett mysterium. Vem är Danny / Shutterstock

Men YouTube är inte ovanligt i detta avseende. Brist på transparens om hur algoritmer fungerar är vanligtvis fallet när de används i stora system, vare sig det är av privata företag eller offentliga organ. Förutom att bestämma vilken video som ska visas nästa är maskinlärningsalgoritmer nu vana med placera barn i skolor, besluta om fängelsestraff, bestämma kreditpoäng och försäkringskurser, liksom ödet för invandrare, jobbkandidater och universitetssökande. Och vanligtvis förstår vi inte hur dessa system fattar sina beslut.

Forskare har hittat kreativa sätt att visa påverkan av dessa algoritmer på samhället, vare sig de undersöker ökningen av den reaktionära rätten eller spridning av konspirationsteorier på YouTube eller genom att visa hur sökmotorer återspeglar rasistiska fördomar av de människor som skapar dem.

Maskininlärningssystem är vanligtvis stora, komplexa och ogenomskinliga. Passande beskrivs de ofta som svarta lådor, där information går in och information eller handlingar kommer ut, men ingen kan se vad som händer däremellan. Detta innebär att eftersom vi inte vet exakt hur algoritmer som YouTube-rekommendationssystemet fungerar kommer vi att försöka ta reda på hur webbplatsen fungerar som att försöka förstå en bil utan att öppna motorhuven.

I sin tur innebär detta att försöka skriva lagar för att reglera vad algoritmer ska eller inte ska göra blir en blind process eller prövning och fel. Det här är vad som händer med YouTube och med så många andra maskininlärningsalgoritmer. Vi försöker säga sitt resultat utan att vi verkligen förstår hur de verkligen fungerar. Vi måste öppna upp dessa patenterade tekniker, eller åtminstone göra dem tillräckligt öppna för att vi kan reglera dem.

Förklaringar och tester

Ett sätt att göra detta skulle vara att tillhandahålla algoritmer kontrafaktiska förklaringar tillsammans med deras beslut. Detta innebär att man arbetar ut de minimivillkor som krävs för att algoritmen ska fatta ett annat beslut utan att beskriva dess fulla logik. Till exempel kan en algoritm som fattar beslut om banklån ge en produktion som säger att "om du var över 18 och inte hade någon tidigare skuld skulle du få ditt banklån accepterat". Men detta kan vara svårt att göra med YouTube och andra webbplatser som använder rekommendationsalgoritmer, eftersom i teorin kan någon video på plattformen rekommenderas när som helst.

Ett annat kraftfullt verktyg är algoritmtestning och revision, vilket har varit särskilt användbart vid diagnostisering av partiska algoritmer. I ett fall som nyligen upptäckte ett professionellt återupptagningsscreeningsföretag att dess algoritm var prioritera två faktorer som bästa prediktorer för jobbprestanda: om kandidatens namn var Jared, och om de spelade lacrosse i gymnasiet. Det här är vad som händer när maskinen inte övervakas.

I detta fall hade algoritmen för återupptagningsscreening märkt att vita män hade en större chans att anställas och hade hittat korrelerande proxyegenskaper (som att kallas Jared eller spela lacrosse) närvarande i kandidaterna som anställts. Med YouTube kan algoritmrevision hjälpa till att förstå vilka typer av videor som prioriteras för rekommendation - och kanske hjälpa till att lösa debatten om huruvida YouTube-rekommendationer bidrar till radikalisering eller inte.

Att införa kontrafaktiska förklaringar eller använda algoritmrevision är en svår och kostsam process. Men det är viktigt, eftersom alternativet är sämre. Om algoritmer blir okontrollerade och oreglerade, kunde vi se ett gradvis kryp av konspirationsteoretiker och extremister i våra media, och vår uppmärksamhet kontrolleras av vem som kan producera det mest lönsamma innehållet.Avlyssningen

Om författaren

Chico Q. Camargo, postdoktor i datavetenskap, University of Oxford

Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

följ InnerSelf på

facebook-icontwitter-iconrss-icon

Få det senaste via e-post

{Emailcloak = off}

FRÅN REDAKTORERNA

InnerSelf Nyhetsbrev: September 6, 2020
by InnerSelf Staff
Vi ser livet genom linserna i vår uppfattning. Stephen R. Covey skrev: "Vi ser världen, inte som den är, utan som vi är - eller, som vi är villkorade att se den." Så den här veckan tittar vi på några ...
InnerSelf-nyhetsbrev: augusti 30, 2020
by InnerSelf Staff
Vägarna vi reser idag är lika gamla som tiden men ändå nya för oss. De erfarenheter vi har är lika gamla som tiden, men de är också nya för oss. Detsamma gäller för ...
När sanningen är så hemskt gör det ont, vidta åtgärder
by Marie T. Russell, InnerSelf.com
Mitt i alla fasor som äger rum i dessa dagar, är jag inspirerad av hoppstrålarna som lyser igenom. Vanliga människor står upp för det som är rätt (och mot det som är fel). Basebollspelare, ...
När ryggen är mot väggen
by Marie T. Russell, InnerSelf
Jag älskar internet. Nu vet jag att många har mycket dåliga saker att säga om det, men jag älskar det. Precis som jag älskar människorna i mitt liv - de är inte perfekta, men jag älskar dem ändå.
InnerSelf-nyhetsbrev: augusti 23, 2020
by InnerSelf Staff
Alla kan förmodligen komma överens om att vi lever i konstiga tider ... nya upplevelser, nya attityder, nya utmaningar. Men vi kan uppmuntras att komma ihåg att allt alltid är i rörelse, ...