Som Facebook-användare över hela världen kommer att förstå kan vissa av deras favorittekniker användas mot dem. Det är inte bara skandalen över psykologiskt profilerande företag Cambridge Analytica får tillgång till data från tiotals miljoner av Facebook-profiler. Människors filterbubblor fylls med noga skräddarsydd information - och felaktiga uppgifter - ändrar deras beteende och tänkande, och till och med deras röster.

Människor, både individuellt och som ett samhälle i stort, bryter för att förstå hur deras newsfeeds vände sig mot dem. De kommer att inse exakt hur noggrant kontrollerade Facebook-flöden är, med mycket skräddarsydda annonser. Den uppsättningen problem ligger dock i jämförelse med de som ställs inför nästa tekniska revolution, som redan pågår: virtuell verklighet.

Å ena sidan håller virtuella världar nästan obegränsad potential. VR-spel kan behandla narkotikamissbruk och kanske hjälpa till att lösa opioidepidemi. Fängelsemedlemmar kan använda VR-simuleringar till förbereda sig för livet efter deras frisläppande. Människor kappar för att komma in i dessa fördjupade upplevelser, som har potential att vara mer psykologiskt kraftfulla än någon annan teknik hittills: Den första moderna utrustningen erbjuder möjligheten utsåldes på 14 minuter.

I dessa nya världar är varje blad, varje sten på den virtuella marken och varje konversation noggrant konstruerad. I vår forskning kring den framväxande definitionen av etik i den virtuella verkligheten intervjuade mina kollegor och jag utvecklarna och de tidiga användarna av den virtuella verkligheten för att förstå vilka risker kommer och hur vi kan minska dem.

Intensiteten kommer att jämföras

"VR är en mycket personlig, intim situation. När du bär ett VR-headset ... tror du verkligen det, det är verkligen nedsänkt, säger en av de utvecklare som vi pratade med. Om någon skadar dig i VR, du kommer att känna det, och om någon manipulerar dig till att tro på något, kommer det att hålla fast.

Denna nedsänkning är vad användarna vill: "VR handlar verkligen om att bli nedsänkt ... I motsats till en TV där jag ständigt kan distraheras" berättade en användare. Den nedsänkning är det som ger VR en aldrig tidigare skådad makt: "VR försöker verkligen göra här, det är dubbelt verklighet där det trickar i ditt sinne."

Dessa knep kan vara roligt - tillåta människor att flyg helikoptrar eller åka tillbaka till forntida Egypten. De kan vara till hjälp, erbjuder smärthantering eller behandling för psykiska tillstånd.

Men de kan också vara skadliga. Även en vanlig prank som vänner spelar på varandra online - loggar in och skickar som varandra - kan ta en helt ny dimension. En VR-användare förklarar, "någon kan sätta på en VR-huvudenhet och gå in i en virtuell värld som antar din identitet. Jag tror att identitetsstöld, om VR blir vanligt, blir skiftande. "

Data kommer att bli ännu mer personliga

VR kommer att kunna samla in data på en helt ny nivå. Det verkar som om oskadliga infraröda sensorer som är utformade för att hjälpa till med rörelsesjuka och inriktning kan fånga perfekt perfektion av användarnas verkliga omgivningar.

Vidare, de data och interaktioner som ger VR kraften att behandla och diagnostisera fysiska och psykiska hälsan kan användas för att hyper-personalisera erfarenheter och information till de enskilda användarnas exakta sårbarheter.

Kombinerade, intensiteten av virtuella verkligheten upplevelser och de ännu mer personliga data de samlar presentera spöken av falska nyheter som är mycket kraftfullare än textartiklar och memes. I stället fördjupade, personliga upplevelser kan helt och hållet övertyga människor om helt andra verkligheter, som de är fullt mottagliga för. Sådana uppslukande VR-annonser ligger i horisonten redan i år.

Bygga en virtuell framtid

En person som använder virtuell verklighet är, ofta villigt, kontrolleras till långt större omfattning än någonsin möjligt. Allt som en person ser och hör - och kanske till och med känns eller luktar - skapas helt av en annan person. Denna övergivelse ger både löfte och fara. Kanske i omsorgsfullt konstruerade virtuella världar kan människor lösa problem som har undanröjt oss i verkligheten. Men dessa virtuella världar kommer att byggas inuti en verklig värld som inte kan ignoreras.

Medan tekniker och användare rensar upp det onda, manipulativa förflutet, måste de gå långt bortom göra sociala medier hälsosammare. Så noggrant som utvecklare bygger virtuella världar själva måste samhället som helhet avsiktligt och noggrant konstruera den kultur där dessa teknologier finns.

I många fall är utvecklare de första allierade i denna kamp. Vår forskning fann att VR-utvecklare var mer oroade över deras användares välbefinnande än användarna själva. Ändå medger en utvecklare att "faktumet är att ... Jag kan räkna med mina fingrar på antalet erfarna utvecklare som jag faktiskt har träffat." Även experter har bara börjat utforska etik, säkerhet och integritet i virtuella verklighetsscenarier.

Utvecklarna vi pratade med uttryckte en önskan om riktlinjer för var att dra gränserna och hur man förhindrar farliga missförhållanden av sina plattformar. Som ett första steg, vi inbjudna VR-utvecklare och användare från nio nätverkssamhällen för att arbeta med oss ​​för att skapa en uppsättning riktlinjer för VR-etik. De lade fram förslag om inklusivitet, skydda användare från manipulerande angripare och gränser för datainsamling.

Som debatten med Facebook och Cambridge Analytica visar, följer emellertid inte alltid riktlinjer, eller ens plattformarnas regler och policyer - och effekterna kan bli allt värre i den här nya VR-världen. Men vår första framgångsrika överenskommelse om VR-riktlinjer tjänar som en påminnelse om att människor kan gå utöver att räkna med den teknik som andra skapar: Vi kan arbeta tillsammans för att skapa fördelaktiga teknologier vi vill ha.

Om författaren

Elissa Redmiles, Ph.D. Student i datavetenskap, University of Maryland

Den här artikeln publicerades ursprungligen den Avlyssningen. Läs ursprungliga artikeln.

relaterade böcker

at InnerSelf Market och Amazon