Spainter_vfx / Shutterstock.com

Filmer som 2001: A Space Odyssey, Blade Runner och terminator tog skurkrobotar och datorsystem till våra biografskärmar. Men i dag verkar sådana klassiska science fiction-glasögon inte så långt borta från verkligheten.

I allt högre grad lever vi, arbetar och leker med datorteknik som är autonom och intelligent. Dessa system inkluderar programvara och hårdvara med kapacitet för oberoende resonemang och beslutsfattande. De arbetar för oss på fabriksgolvet; de bestämmer om vi kan få en inteckning De spårar och mäter vår aktivitet och träningsnivåer. de städar våra vardagsrumsgolv och skär våra gräsmattor.

Autonoma och intelligenta system har potential att påverka nästan alla aspekter av våra sociala, ekonomiska, politiska och privata liv, inklusive vardagliga vardagliga aspekter. Mycket av detta verkar oskyldigt, men det finns anledning till oro. Beräkningsteknik påverkar varje mänsklig rättighet, från rätt till liv till rätten till privatliv, yttrandefrihet till sociala och ekonomiska rättigheter. Så hur kan vi försvara de mänskliga rättigheterna i ett tekniskt landskap som alltmer formas av robotik och artificiell intelligens (AI)?

AI och mänskliga rättigheter

För det första finns det en verklig rädsla för att ökad maskinautonomi kommer att undergräva människors status. Denna rädsla förblindas av bristande klarhet över vem som kommer att hållas till konto, vare sig i laglig eller moralisk mening, när intelligenta maskiner skadar. Men jag är inte säker på att fokuseringen av vårt intresse för mänskliga rättigheter verkligen borde ligga med rogue robotar, som det verkar för närvarande. Vi borde snarare oroa oss för den mänskliga användningen av robotar och artificiell intelligens och deras utplacering i orättvisa och ojämna politiska, militära, ekonomiska och sociala sammanhang.

Denna oro är särskilt relevant i fråga om dödliga autonoma vapensystem (LAWS), som ofta beskrivs som dödrobotar. Som vi flytta mot en AI-vapenlöpning, människorättsforskare och kampanjer som Christof Heyns, den förra FN-specialföredraganden om utomrättsliga, summariska eller godtyckliga avrättningar, fruktar att användningen av LAWS kommer att sätta autonoma robotsystem ansvarig för beslut om liv och död, med begränsad eller ingen mänsklig kontroll.

AI revolutionerar också kopplingen mellan krigföring och övervakningspraxis. Grupper som Internationella kommittén för robotar vapenstyrning (ICRAC) nyligen uttryckte sin motstånd mot Googles deltagande i Project Maven, ett militärt program som använder maskininlärning för att analysera droneövervakningsmaterial, som kan användas för utomrättsliga dödar. ICRAC klagas till Google för att säkerställa att uppgifterna som samlar in på användarna aldrig används för militära ändamål, och ansluter sig till protester från Google-anställda om företagets engagemang i projektet. Google meddelade nyligen det kommer inte att förnyas dess kontrakt.

I 2013 var omfattningen av övervakningspraxis framhävd av Edward Snowden avslöjanden. Dessa lärde oss mycket om hotet mot rätten till integritet och delning av data mellan underrättelsetjänster, myndigheter och privata företag. Den senaste kontroversen kring Cambridge Analyticaskörd av personuppgifter via användningen av sociala medier, som Facebook, fortsätter att orsaka allvarlig oro, den här gången över manipulation och störningar i demokratiska val som skadar rätten till yttrandefrihet.

Under tiden utmanar kritiska dataanalytiker diskriminerande praxis förknippas med vad de kallar AI: s "white guy problem". Det här är oroen att AI-system som utbildats på existerande data replikerar befintliga ras- och könsstereotyper som fortsätter diskriminerande praxis inom områden som polisarbete, rättsliga beslut eller sysselsättning.

AI kan replikera och förankra stereotyper. Ollyy / Shutterstock.com

Tvetydiga bots

Det potentiella hotet om beräkningsteknologi för mänskliga rättigheter och fysisk, politisk och digital säkerhet framhävdes i en nyligen publicerad studie om Den skadliga användningen av artificiell intelligens. De oro som uttrycks i denna rapport från University of Cambridge måste tas på allvar. Men hur ska vi hantera dessa hot? Är mänskliga rättigheter redo för en tid av robotteknik och AI?

Det finns pågående ansträngningar att uppdatera befintliga principer för mänskliga rättigheter för denna tid. Dessa inkluderar FN: s ramverk och riktlinjer för näringsliv och mänskliga rättigheter, försök att skriva en Magna Carta för den digitala tiden och Livets Institutets Framtid Asilomar AI-principerna, som identifierar riktlinjer för etisk forskning, värdering och ett engagemang för den långsiktiga välgörande utvecklingen av AI.

Dessa ansträngningar är lovvärda men inte tillräckliga. Regeringar och myndigheter, politiska partier och privata företag, särskilt de ledande tekniska företagen, måste begå sig åt AI: s etiska användningsområden. Vi behöver också en effektiv och verkställbar lagstiftningskontroll.

Oavsett vilka nya åtgärder vi introducerar är det viktigt att erkänna att våra liv blir alltmer ihop med autonoma maskiner och intelligenta system. Denna förtrollning ökar människors välbefinnande inom områden som medicinsk forskning och behandling, i vårt transportsystem, i socialvårdsinrättningar och i ansträngningar för att skydda miljön.

Men på andra områden kastar denna förtrollning upp oroande framtidsutsikter. Beräkningsteknologi används för att titta på och följa våra handlingar och beteenden, spåra våra steg, vår plats, vår hälsa, vår smak och våra vänskap. Dessa system bildar mänskligt beteende och knyter oss till självövervakningspraxis som begränsar vår frihet och undergräver de mänskliga rättigheternas idéer och ideal.

Och här ligger kärnan: kapaciteten för dubbel användning av beräkningsteknologi försvinner linjen mellan välgörande och skadliga metoder. Dessutom är beräkningstekniken djupt inblandad i de ojämlika maktförhållandena mellan enskilda medborgare, staten och dess byråer och privata företag. Om de inte är effektiva från effektiva nationella och internationella system för kontroll och balans, utgör de ett verkligt och oroande hot mot våra mänskliga rättigheter.

Om författaren

Birgit Schippers, besökande forskare, senator George J Mitchell institut för global fred, säkerhet och rättvisa, Drottning universitet Belfast

Den här artikeln publicerades ursprungligen den Avlyssningen. Läs ursprungliga artikeln.

relaterade böcker

{amazonWS:searchindex=Books;Birgit Schippers=innerself" target="_blank" rel="nofollow noopener">InnerSelf Market och Amazon