Hur artificiella intelligenssystem skulle kunna hota demokratin

Privatliv

Amerikansk teknologi jätte Microsoft har gått ihop med ett kinesiskt militärt universitet att utveckla artificiella intelligenssystem Det kan potentiellt förbättra statens övervaknings- och censurförmåga. Två Amerikanska senatorer fördömde offentligt partnerskapet, men vad National Defense Technology University of China vill ha från Microsoft är inte den enda oroen.

As min forskning visar, tillkomsten av digital förtryck påverkar djupt förhållandet mellan medborgare och stat. Ny teknik skapar regeringar med oöverträffade möjligheter att övervaka, spåra och övervaka enskilda personer. Även regeringar i demokratier med starka traditioner av rättsstatsprincipen befinner sig frestad att missbruka dessa nya förmågor.

I stater med oaccountable institutioner och ofta missbruk av mänskliga rättigheter, AI-system kommer sannolikt att leda till större skada. Kina är ett framträdande exempel. Dess ledarskap har entusiastiskt omfamnat AI-teknik och har satt upp världens mest sofistikerade övervakningstillstånd in Xinjiang provinsen, spåra medborgarnas dagliga rörelser och smartphone användning.

Dess utnyttjande av dessa teknologier presenterar en kylmodell för medförfattare och utgör ett direkt hot mot öppna demokratiska samhällen. Även om det inte finns några bevis för att andra regeringar har replikerat denna nivå av AI-övervakning, exporterar kinesiska företag aktivt samma underliggande teknik över hela världen.

Ökande beroende av AI-verktyg i USA

Artificiella intelligenssystem finns överallt i den moderna världen, som hjälper till att köra smartphones, internet sökmotorer, digitala röstassistenter och Netflix filmköer. Många människor misslyckas med att inse hur snabbt AI expanderar tack vare ständigt ökande mängder data som ska analyseras, förbättra algoritmer och avancerade dataprocessor.

När som helst blir mer information tillgänglig och analys blir lättare, regeringar är intresserade - och inte bara auktoritära. I USA såg 1970-s uppenbarelser som myndigheter - som FBI, CIA och NSA - hade satt upp expansiva inhemska övervakningsnät att övervaka och trakassera medborgerliga protester, politiska aktivister och indianska grupper. Dessa problem har inte gått iväg: Digital teknik idag har fördjupat möjligheten för ännu fler byråer att genomföra ännu mer påträngande övervakning.

Privatliv Hur rimligt förutsäger algoritmer var polisen ska vara mest fokuserad? Arnout de Vries

Till exempel har amerikanska polisen ivrigt begått AI-teknik. De har börjat använda programvara som är menade att förutsäga var brott kommer att hända att bestämma vart man ska skicka officerare på patrull. De använder också ansiktsigenkänning och DNA-analys i brottsutredningar. Men analyser av dessa system visar Uppgifter om vilka dessa system är utbildade är ofta partisk, vilket leder till orättvisa resultat, Såsom falskt bestämma att afroamerikaner är mer benägna att begå brott än andra grupper.

AI övervakning runt om i världen

I auktoritära länder kan AI-system direkt bära inhemsk kontroll och övervakning, hjälpa De inre säkerhetsstyrkorna hanterar massiva mängder information - Snabbare och effektivare, inklusive sociala medier, SMS, e-post och telefonsamtal. Polisen kan identifiera sociala trender och specifika personer vem som kan hota regimen utifrån den information som upptäcks av dessa system.

Till exempel har den kinesiska regeringen använt AI i omfattande nedslag i regioner som är hemma för etniska minoriteter i Kina. Övervakningssystem i Xinjiang och Tibet har beskrivits som "Orwellian. "Dessa ansträngningar har inkluderat obligatoriska DNA-prover, Wi-Fi-nätverksövervakning och utbredda kameror för ansiktsigenkänning, alla anslutna till integrerade dataanalysplattformar. Med hjälp av dessa system har kinesiska myndigheter, enligt den amerikanska statens avdelning, "godtyckligt kvarhållit" mellan 1 och 2 miljoner människor.

My forskning tittar på 90 länder runt om i världen med regeringstyper som sträcker sig från stängda auktoritära till bristfälliga demokratier, däribland Thailand, Turkiet, Bangladesh och Kenya. Jag har funnit att kinesiska företag är exporterande AI-övervakningsteknik till minst 54 i dessa länder. Ofta är denna teknik förpackad som en del av Kinas flaggskepp Belt och Road Initiative, som finansierar ett omfattande nätverk av vägar, järnvägar, energipipeline och telekommunikationsnät tjänar 60% av världens befolkning och ekonomier som genererar 40% av den globala BNP.

Till exempel kinesiska företag gillar huawei och ZTE bygger smarta städer i pakistan, Filippinerna och kenya, med omfattande inbyggd övervakningsteknik. Till exempel har Huawei utrustat Bonifacio Global City i Filippinerna med högupplösta internetanslutna kameror som tillhandahåller "24 / 7 intelligent säkerhetsövervakning med dataanalys för att upptäcka brottslighet och hjälpa till att hantera trafik. "

Privatliv Bonifacio Global City i Filippinerna har mycket inbyggd övervakningsutrustning. alveo land / Wikimedia Commons

Hikvision, Yitu och SenseTime levererar state-of-the-art ansiktsigenkänningskameror för användning på platser som Singapore - som tillkännagav inrättandet av ett övervakningsprogram med 110,000-kameror monterade på lampstolpar runt staden-staten. Zimbabwe skapar en nationell bilddatabas som kan användas för ansiktsigenkänning.

Men att sälja avancerad utrustning för vinst är annorlunda än att dela teknik med ett uttryckligt geopolitiskt syfte. Dessa nya möjligheter kan plantera fröna för global övervakning: Eftersom regeringar blir alltmer beroende av kinesisk teknik för att hantera sina populationer och upprätthålla kraft, kommer de att möta större press för att anpassa sig till Kinas agenda. Men för närvarande verkar det som att Kinas främsta motiv är att dominera marknaden för ny teknik och tjäna mycket pengar i processen.

AI och disinformation

Förutom att tillhandahålla övervakningsfunktioner som är både svepande och finkorniga kan AI hjälpa repressiva regeringar att manipulera tillgänglig information och sprida disinformation. Dessa kampanjer kan automatiseras eller automatiseras och distribueras hyper-personifierade meddelanden riktad mot - eller mot - specifika personer eller grupper.

AI stöder också den teknik som kallas "deepfake, "Där algoritmer skapar realistiska video- och ljudförfalskningar. Muddying vattnet mellan sanning och fiktion kan bli användbar i ett stramt val när en kandidat kan skapa falska videor som visar att en motståndare gör och säger saker som aldrig faktiskt hände.

En tidig deepfake-video visar några av farorna med avancerad teknik.

Enligt min åsikt borde politiska beslutsfattare i demokratier noga tänka på riskerna med AI-system till sina egna samhällen och till människor som lever under auktoritära regimer runt om i världen. En kritisk fråga är hur många länder som kommer att anta Kinas modell för digital övervakning. Men det är inte bara auktoritära länder som känner att dra. Och det är inte bara kinesiska företag som sprider tekniken: Många amerikanska företag, inklusive Microsoft, men IBM, Cisco och Thermo Fisher har också tillhandahållit sofistikerade möjligheter till otäcka regeringar. Misbruk av AI är inte begränsad till autokratiska stater.Avlyssningen

Om författaren

Steven Feldstein, Frank och Bethine Church Stol Public Affairs & Associate Professor, School of Public Service, Boise State University

Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.

relaterade böcker

{amazonWS: searchindex = Böcker; nyckelord = AI övervakning; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

följ InnerSelf på

facebook-icontwitter-iconrss-icon

Få det senaste via e-post

{Emailcloak = off}