William Perugini/Shutterstock

Av de många"djupa risker för samhället och mänskligheten” där tekniska experter oroar sig för artificiell intelligens (AI), är spridningen av falska bilder en som vanliga internetanvändare kommer att känna till.

Deepfakes – videor eller fotografier där någons ansikte eller kropp har förändrats digitalt så att de verkar göra något de inte gör – har redan använts för att sprida politisk desinformation och falsk pornografi.

Dessa bilder är vanligtvis skadliga och används för att misskreditera motivet. När det gäller deepfake pornografi, en stor majoritet av offren är kvinnor. Generativ AI – teknik som används för att skapa text, bilder och video – är redan gör bildbaserade sexuella övergrepp lättare att begå.

En ny uppsättning lagar i Storbritannien, kommer att kriminalisera delning av deepfake pornografi. Men med uppmärksamheten på AI och deepfakes kan vi inte glömma hur mindre sofistikerad teknik kan användas som ett verktyg för övergrepp, med förödande konsekvenser för offren.

Teknik och kontroll

När jag började min forskning om teknik i våldsamma relationer, var deepfakes bara en blick vid horisonten. Mitt arbete fokuserade på smartphones roll i övergrepp på kvinnor som hade flytt kontrollerande relationer. Jag upptäckte att förövare av övergrepp i hemmet använde teknik för att utöka räckvidden för sin makt och kontroll över sina partner, en modern uppfattning om övergreppstaktik som användes långt före smartphones fanns i varje ficka.

Mobiltelefoner kan användas direkt för att övervaka och kontrollera, med hjälp av GPS-spårning eller genom att bombardera ett offer med texter, videor och röstsamtal. En deltagare i min forskning i 2019 förklarade hur hennes våldsamma partner använde sin telefon för att komma åt sociala medier, skickade kränkande bilder till henne via Instagram och ihärdiga och kränkande WhatsApp-meddelanden.

När hon var ute med sina vänner skulle han först sms:a, ringa och sedan videosamtal henne hela tiden för att kolla var hon var och se vem hon var med. När deltagaren stängde av sin telefon kontaktade hennes dåvarande partner sina vänner och bombarderade dem med sms och samtal.

Den här deltagaren kände sig för generad för att träffa sin kamratgrupp och slutade därför gå ut. Andra i liknande situationer kan uteslutas från sociala planer om vänner vill undvika att bli kontaktade av sin väns förövare. Sådan social isolering är en frekvent del av övergrepp i hemmet och en viktig indikator på att kontrollera relationer.

Enligt välgörenhetsorganisationen Refuge för våld i hemmet, mer än 72% av människor som använder dess tjänster rapporterar missbruk som involverar teknik.

Mobiltelefoner är en inkörsport till andra prylar, via "sakernas internet" – enheter som är webbanslutna och kan utbyta data. Dessa verktyg kan också beväpnas av missbrukare. Till exempel att använda mobiltelefoner för att ändra temperaturinställningar på en hushållstermostat, vilket skapar extremer från en timme till en annan.

Förvirrade av detta söker folk förklaringar från sin partner bara för att få veta att detta måste vara en fantasi. Gasbelysningstekniker som detta får offren att ifrågasätta sitt eget förnuft, vilket undergräver deras förtroende för sitt eget omdöme.

En modern panoptikon

Med ett klick på en knapp tillåter mobiltelefoner oöverträffad övervakning av andra. I fickan på en förövare kan de användas för att hålla koll på nuvarande och tidigare partners när som helst, var som helst och – om det är möjligt – var som helst. Detta ger förövarna en allmaktens makt, vilket gör att offren tror att de blir iakttagna även när de inte är det.

Detta för tankarna till 18-talsfilosofen Jeremy Benthams arbete, som introducerade begreppet "panoptikon". Bentham föreslog ett "perfekt" fängelsesystem, där ett vakttorn sitter i centrum, omgivet av enskilda celler.

Isolerade från varandra skulle fångar bara se tornet – en ständig påminnelse om att de är permanent övervakade, även om de inte kan se vakten i det. Bentham trodde att en sådan struktur skulle resultera i fångarnas självövervakning tills slutligen inga lås eller bommar behövdes.

Min senaste forskning visar att mobiltelefoner har skapat liknande dynamik inom missbruksrelationer. Telefoner tar rollen som tornet, och förövarna vakterna inom det.

I detta moderna panoptikon kan offer vara ute och gå, synliga för främlingar, vänner och familj. Men på grund av telefonens närvaro känner de att de fortfarande blir bevakade och kontrollerade av sina missbrukande partner.

Som en deltagare uttryckte det: ”Du känner att det inte finns någon frihet även när du är ute. Du känner att du är inlåst någonstans, du har inte frihet, någon kontrollerar dig.”

Överlevande av övergrepp fortsätter att övervaka sig själva även när förövarna inte är där. De agerar på ett sätt som de tror kommer att glädja (eller åtminstone inte reta) deras förövare.

Detta beteende ses ofta av andra som konstigt och avfärdas alltför lätt som paranoia, ångest eller allvarligare psykiska problem. Fokus ligger på offrets beteende och ignorerar orsaken – kränkande eller kriminellt beteende av sin partner.

Allt eftersom tekniken blir mer sofistikerad kommer de verktyg och strategier som är tillgängliga för missbrukare att fortsätta att utvecklas. Detta kommer att utöka förövarnas räckvidd och ge nya möjligheter till övervakning, gasbelysning och övergrepp.

Tills tekniska företag överväger erfarenheterna av överlevande övergrepp i hemmet och bygger in säkerhetsmekanismer i designen av sina produkter, kommer missbruk att fortsätta att kvarstå gömd i klarsynt.

Tirion Håvard, docent i socialt arbete, London South Bank University

Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.