ULU_BIRD / Shutterstock.com

Mustafa älskar gott kaffe. På fritiden surfar han ofta avancerade kaffemaskiner som han för närvarande inte har råd med men sparar för. En dag, när han reser till en väns bröllop utomlands, får han sitta bredvid en annan vän på planet. När Mustafa klagar över hur mycket han betalade för sin biljett, visar det sig att hans vän betalade mindre än hälften av vad han betalade, även om de bokade ungefär samtidigt.

Han undersöker möjliga orsaker till detta och konstaterar att det måste vara relaterat till hans surfning av dyra kaffemaskiner och utrustning. Han är väldigt arg på detta och klagar till flygbolaget, som skickar honom en ljum ursäkt som hänvisar till personliga prissättningsmodeller. Mustafa anser att detta är orättvist men utmanar det inte. Att sträva efter det ytterligare skulle kosta honom tid och pengar.

Den här historien - som är hypotetisk, men kan och inträffar - visar potentialen för att människor skadas av dataanvändning i den nuvarande "big data" -epoken. Big data-analys innebär att använda stora mängder data från många källor som är länkade och analyserade för att hitta mönster som hjälper till att förutsäga mänskligt beteende. En sådan analys, även om den är helt laglig, kan skada människor.

Mustafa har till exempel påverkats av personliga prissättningar där hans sökning efter avancerade kaffemaskiner har använts för att göra vissa antaganden om hans villighet att betala eller köpa kraft. Detta i sin tur kan ha lett till hans högre prissättning. Även om detta inte har lett till någon allvarlig skada i Mustafas fall, är fall av allvarlig emotionell och ekonomisk skada tyvärr inte sällsynta, inklusive förnekande av inteckningar för individer och risker för en persons allmänna kreditvärdighet baserat på föreningar med andra individer. Detta kan hända om en person delar några liknande egenskaper som andra individer som har dålig återbetalningshistorik.

Det kan också förekomma emotionella skador. Föreställ dig ett par som får reda på att de förväntar sig ett mycket eftertraktat barn, men får ett missfall efter fem månader. Paret kan tycka att de fortsätter att ta emot annonser från butiker som specialiserat sig på spädbarnsprodukter månader senare och firar vilka som borde ha varit viktiga "milstolpar" och orsakat nöd. Detta är en annan hypotetisk men helt och hållet möjligt scenario.

Lagen - eller bristen på den

I många av dessa fall, eftersom den skadliga praxisen kanske inte har brutit några lagar, har de som skadats av dataanvändning begränsat eller inga rättsliga alternativ öppna för dem. Det som hände med till exempel Mustafa var helt lagligt, eftersom det inte finns några nuvarande lagar som förbjuder personlig prissättning som sådan. Våra nuvarande rättssystem skyddar inte tillräckligt människor från de skador som uppstår genom big data.

Det beror på att det är mycket svårt att spåra hur våra uppgifter är länkade och används. Även om flygbolaget hade gjort något olagligt, till exempel brutna lagar för dataskydd, skulle det vara nära omöjligt för Mustafa att ta reda på det. Människor som känner att de har skadats av dataanvändning kan kämpa för att visa hur deras data har använts för att orsaka denna skada, vilken information var inblandad eller vilken datakontrollant som använde den. Och så de kan sakna det bevis de skulle behöva för att få ett rättsmedel.

Även om de visar hur något någon gjorde med sina uppgifter skadade dem, den speciella användningen av kundinformation, för att justera prissättningen till exempel, kan inte vara olaglig.

På samma sätt kan skadan inte orsakas av egna data utan av användningen av andra människors data (tredjepartsdata). Till exempel kan det i Mustafa fall vara så att andra individer som också var intresserade av dyra kaffemaskiner hade mycket höga inkomster eller köpte dyra föremål. Detta kan ha använts för att föreslå att Mustafa också föll i denna kategori, vilket kan ha lett till högre priser för honom för andra produkter. En person som skadats genom användning av data från tredje part kommer ofta inte att ha åtgärder enligt gällande lagar om dataskydd.

Företag kan antaga saker om dig från dina surfvanor. Besättning / Unsplash, FAL

Ett nytt system

För att hjälpa till att ta itu med sådana problem, Vi argumenterar att vi måste acceptera att vissa risker från dataanvändning inte kan förhindras. Istället för att enbart fokusera på att försöka minimera eller undvika sådana risker, måste vi också hitta sätt att bättre stödja människor som drabbas av skador från dataanvändning, till exempel genom att aktivt övervaka och svara på skador orsakade av dataanvändning, inklusive laglig användning av data.

Vi anser att en del av detta system bör inrättas som en del av detta system. Vi kallar dem för skadebegränsande organ. Dessa skulle inrättas på nationell nivå, och människor som ansåg att de skadades av dataanvändning, men inte var berättigade till rättsmedel, kunde gå till dem för att rapportera den skada de tror uppstod genom dataanvändning. Till skillnad från traditionella rättsmedel skulle organ för skadebegränsning kunna ge stöd även i de fall där inga lagar bröts. De skulle vara lätta för människor att använda och flexibla, så att de kan stödja människor där och hur de mest behöver det, ge individer mer makt och stärka det kollektiva ansvaret för dataanvändning.

Dessa föreslagna organ skulle samla in information om vilka typer av skador som inträffar: för närvarande finns det inga nationella eller internationella organ som samlar in information om dataskador systematiskt. De skulle också återkalla information till beslutsfattare och datanvändare för att förbättra hur saker och ting görs. Och i de fall människor drabbas av ekonomiska skador men inte har tillgång till juridisk hjälp kan de också ge ekonomiskt stöd.

Big data-analys berömmas med rätta för de många nya möjligheter som den erbjuder. Men det kommer att vara oundvikligt att vissa människor skadas. Som ett samhälle måste vi möta denna sanning och ge bättre hjälp till dem som lider skador, så att ingen som bär kostnaderna för dessa nya praxis får vara ensam.

Om Författarna

Aisling McMahon, biträdande professor i juridik, National University of Ireland Maynooth; Alena Buyx, professor i etik, Tekniska Universitetet i Münchenoch Barbara Prainsack, professor i jämförande policyanalys, University of Vienna

Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.