Vart du än går online, försöker någon att personifiera din webbupplevelse. Dina preferenser förutspås, dina avsikter och motivation förutsägs. Den brödrost du kort visade på tre månader sedan fortsätter att spöka din surfning i skräddarsydda reklam sidobar. Och det är inte en envägsgata. Faktum är att de ganska opersonliga mekanikerna i vissa personaliseringssystem inte bara påverkar hur vi ser världen, utan hur vi ser oss själva.
Det händer varje dag, till oss alla medan vi är online. Facebook: s nyhetsflöde försöker leverera skräddarsydd innehåll som "Mest intressen" enskilda användare. Amazons rekommendationsmotor använder personalspårning i kombination med andra användares surfvanor för att föreslå relevanta produkter. Google anpassar sökresultat, och mycket mer: till exempel, personaliseringsapp Google nu försöker "ge dig den information du behöver hela din dag innan du ens frågar". Sådana personaliseringssystem syftar inte bara till att ge användarnas relevans. genom riktade marknadsstrategier genererar de också vinst för många gratisanvändbara webbtjänster.
Kanske är den mest kända kritiken av denna process den "Filterbubbla" teori. Föreslagen av internetaktivist Eli Pariser, denna teori föreslår att personalisering kan påverka webbanvändarnas erfarenheter negativt. I stället för att bli utsatt för universellt, varierat innehåll, levereras användare algoritmiskt material som matchar sina existerande, självbekräftande synpunkter. Filterbubblan utgör därför ett problem för det demokratiska engagemanget: Genom att begränsa tillgången till utmanande och mångsidiga synpunkter kan användarna inte delta i kollektiv och informerad debatt.
{youtube}6_sim_Wc3mY{/youtube}
Försök att hitta bevis på filterbubblan har skapat blandade resultat. Några studier har visat att personalisering verkligen kan leda till en "myopisk" bild av ett ämne andra studier har funnit att personalisering i olika sammanhang kan hjälpa användare att upptäcka vanligt och varierat innehåll. Min forskning tyder på att personalisering inte bara påverkar hur vi ser världen, utan hur vi ser oss själva. Dessutom kan inverkan av personalisering på våra identiteter inte bero på att filtrera bubblor av konsumtion, men eftersom det i vissa fall inte är någon personlig personlighet på nätet.
Dataspårning och förebyggande av användaren
För att förstå detta är det användbart att överväga hur online personalisering uppnås. Även om personaliseringssystem spårar våra enskilda webbrörelser, är de inte utformade för att "känna" eller identifiera oss som individer. Istället samlar dessa system användarnas realtidshändelser och vanor i massdatasatser, och letar efter mönster och korrelationer mellan användarnas rörelser. De funna mönstren och korrelationerna är då översatt tillbaka in i identitetskategorier som vi kanske känner igen (som ålder, kön, språk och intressen) och som vi kan passa in i. Genom att leta efter massmönster för att kunna leverera personligt relevant innehåll är personaliseringen faktiskt baserad på en ganska opersonlig process.
När filterbubbelteorin först kom fram i 2011 hävdade Pariser att ett av de största problemen med personalisering var att användarna inte visste att det hände. Nuförtiden, trots invändningar mot dataspårning, många användare är medvetna om det att de spåras i utbyte mot användning av gratis tjänster, och att denna spårning används för former av personalisering. Många mindre tydliga är emellertid vad som är personligt för oss, hur och när.
Hitta den "personliga"
Min forskning tyder på att vissa användare antar att deras erfarenheter anpassas till komplexa grader. I en djupgående kvalitativ studie av 36-webanvändare rapporterade vissa kvinnliga användare att de hade antagit att Facebook hade profilerat dem som överviktiga eller träningsorienterade efter att ha tittat på reklam för viktminskningsprodukter på Facebook. Faktum är att dessa viktminskningsannonser genererades generellt för kvinnor i åldern 24-30. Men eftersom användare kan vara omedvetna om vissa personifieringssystems opersonliga karaktär kan sådana riktade annonser ha en negativ inverkan på hur dessa användare ser sig själva: för att säga det otrevligt måste de vara överviktiga, eftersom Facebook säger att de är.
Det är inte bara målinriktad annonsering som kan ha denna inverkan: I en etnografisk och longitudinell studie genomförd av en handfull 18 och 19-åriga Google Now-användare upptäckte jag att vissa deltagare antog att appen kunde anpassa sig till en utomordentligt komplicerad omfattning . Användare rapporterade att de trodde att Google Now visade information om lagren eftersom Google visste att deras föräldrar var aktieägare eller att Google (felaktigt) förekom en "pendling" till "jobba" eftersom deltagarna en gång ljugit för att vara över skolåldern på sina YouTube-konton . Det är självklart att denna småskaliga studie inte representerar engagemang från alla Google Now-användare: men det tyder på att de prediktiva löften för Google Now var nästan ofelbara för dessa individer.
I själva verket, kritik av användarcentrerad design föreslå att verkligheten av Googles slutsatser är mycket mer opersonlig: Google Nu antar att dess "Idealanvändare" gör - eller åtminstone borde - ha ett intresse för aktier, och att alla användare är arbetare som pendlar. Sådana kritikar lyfter fram att det är dessa antaganden som i stor utsträckning strukturerar Googles personaliseringsramar (till exempel genom appens efterlevnad av fördefinierade "kort" kategorier till exempel "Sport", som under min studie endast tillät användare att "följa" män snarare än kvinnors brittiska fotbollsklubbar). Men i stället för att ifrågasätta appens antaganden, tyder min studie på att deltagarna ställde sig utanför den förväntade normen: de litade på Google att berätta för dem hur deras personliga erfarenheter ska se ut.
Även om dessa kan verka som extrema exempel på opersonlig algoritmisk inferens och användarens antagande, det faktum att vi inte kan vara säkra på vad som personifieras, när eller hur är vanligare problem. För mig framhäver dessa användarbevis att anpassningen av online-innehåll har konsekvenser utöver det faktum att det kan vara skadligt för demokratin. De föreslår att om vi inte förstår att personifieringen ibland kan fungera via mycket opersonliga ramar, kan vi lägga för mycket tro på personalisering för att berätta hur vi ska bete sig, och vem vi borde vara, snarare än vice versa.
Om författaren
Tanya Kant, docent i medie- och kulturstudier, University of Sussex
Den här artikeln publicerades ursprungligen den Avlyssningen. Läs ursprungliga artikeln.
relaterade böcker
at InnerSelf Market och Amazon
