Hur konstgjord intelligens är en totalitär dröm

Hur konstgjord intelligens är en totalitär dröm shutterstock.

Individualistiska västerländska samhällen bygger på idén att ingen känner våra tankar, önskningar eller glädje bättre än vi gör. Och så sätter vi oss, snarare än regeringen, som ansvarar för våra liv. Vi tenderar att hålla med filosofen Immanuel Kants påstående att ingen har rätt att tvinga sin idé om det goda livet på oss.

Artificiell intelligens (AI) kommer att förändra detta. Det kommer att känna oss bättre än vi känner oss själva. En regering beväpnad med AI kan påstå sig veta vad dess folk verkligen vill och vad som verkligen kommer att göra dem lyckliga. I bästa fall kommer den att använda detta för att motivera paternalism, i värsta fall totalitarism.

Varje helvete börjar med ett löfte om himlen. AI-ledd totalitarism kommer inte att vara annorlunda. Frihet kommer att bli lydnad mot staten. Endast de irrationella, spitefulla eller subversiva kunde vilja välja sin egen väg.

För att förhindra en sådan dystopi får vi inte låta andra veta mer om oss själva än vi gör. Vi kan inte tillåta ett gap om självkunskap.

Den All-Seeing AI

År 2019 hävdade miljardärsinvesteraren Peter Thiel att AI var "bokstavligen kommunist”. Han påpekade att AI tillåter en centraliserande makt att övervaka medborgarna och veta mer om dem än de vet om sig själva. Kina, konstaterade Thiel, har ivrigt omfamnat AI.

Vi vet redan AI: s potential att stödja totalitarism genom att tillhandahålla ett Orwellskt system för övervakning och kontroll. Men AI ger också totalitärer ett filosofiskt vapen. Så länge vi kände oss bättre än regeringen gjorde, kunde liberalismen hålla strävande totalitärer i fjärran.

Men AI har förändrat spelet. Stora teknikföretag samlar in enorma mängder data om vårt beteende. Maskininlärningsalgoritmer använder dessa data för att beräkna inte bara vad vi kommer att göra, utan vem vi är.


Få det senaste från InnerSelf


I dag, AI kan förutsäga vilka filmer vi kommer att gilla, vilka nyheter vi vill läsa och vem vi vill vän på Facebook. Det kan förutsäga om par kommer att stanna tillsammans och om vi kommer försöka självmord. Från våra Facebook-gillar, AI kan förutsäga våra religiösa och politiska åsikter, personlighet, intelligens, droganvändning och lycka.

Noggrannheten i AI: s förutsägelser kommer bara att förbättras. I en inte alltför avlägsen framtid, som författaren Yuval Noah Harari har föreslagit kan AI berätta vem vi är innan vi själva vet.

Denna utveckling har seismiska politiska konsekvenser. Om regeringar kan känna oss bättre än vi kan, öppnas en ny motivering för att ingripa i våra liv. De kommer att tyrannisera oss i vårt eget bästa.

Frihet genom tyranni

Filosofen Isaiah Berlin förutsåg detta 1958. Han identifierade två typer av frihet. En typ, varnade han, skulle leda till tyranni.

Negativ frihet är ”frihet från”. Det är frihet från inblandning från andra människor eller regering i dina angelägenheter. Negativ frihet är att ingen annan kan begränsa dig, så länge du inte kränker någon annans rättigheter.

Däremot är positiv frihet ”frihet till”. Det är friheten att vara herre över dig själv, friheten att uppfylla dina verkliga önskemål, friheten att leva ett rationellt liv. Vem vill inte ha det här?

Men tänk om någon annan säger att du inte agerar i ditt "verkliga intresse", även om de vet hur du kunde. Om du inte lyssnar, kan de göra det tvinga dig att vara fri - tvinga dig till ditt "eget bästa". Detta är en av de farligaste idéerna som någonsin har uppfattats. Det dödade tiotals miljoner människor i Stalins Sovjetunion och Maos Kina.

Den ryska kommunistledaren Lenin rapporteras ha sagt att kapitalisterna skulle sälja honom det rep han skulle hänga dem med. Peter Thiel har hävdat att i AI har kapitalistiska teknikföretag i Silicon Valley sålt kommunismen ett verktyg som hotar att undergräva det demokratiska kapitalistiska samhället. AI är Lenins rep.

Kämpar för oss själva

Vi kan bara förhindra en sådan dystopi om ingen får känna oss bättre än vi själva känner. Vi får aldrig sentimentalisera någon som söker en sådan makt över oss som välmenande. Historiskt har detta bara någonsin slutat på olycka.

Ett sätt att förhindra ett klyft med självkunskap är att höja våra integritetsskydd. Thiel, som betecknade AI som kommunistisk, har hävdat att "crypto är libertarian”. Cryptocururrency kan vara "integritet aktivera”. Sekretess minskar andras förmåga att känna oss och sedan använda denna kunskap till manipulera oss för deras egen vinst.

Men att känna oss bättre genom AI erbjuder kraftfulla fördelar. Vi kan kanske använda den för att bättre förstå vad som gör oss lyckliga, friska och rika. Det kan hjälpa vägleda våra karriärval. Mer generellt AI lovar att skapa den ekonomiska tillväxten den där håller oss från varandras halsar.

Problemet är inte att AI förbättrar vår självkunskap. Problemet är en maktskillnad i vad som är känt om oss. Kunskap om oss uteslutande i någon annans händer är makt över oss. Men kunskap om oss i våra egna händer är makt för oss.

Någon som bearbetar våra data att skapa kunskap om oss bör vara juridiskt skyldiga att ge oss tillbaka den kunskapen. Vi måste uppdatera idén om "ingenting om oss utan oss”För AI-åldern.

Det AI berättar om oss själva är att vi ska överväga att använda, inte för att andra ska tjäna på att missbruka. Det borde bara vara en hand på vår själ. Och det borde vara vårt.Avlyssningen

Om författaren

Simon McCarthy-Jones, docent i klinisk psykologi och neuropsykologi, Trinity College Dublin

Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

följ InnerSelf på

facebook-icontwitter-iconrss-icon

Få det senaste via e-post

{Emailcloak = off}

FRÅN REDAKTORERNA

InnerSelf-nyhetsbrev: oktober 25, 2020
by InnerSelf Staff
"Slogan" eller underrubrik för InnerSelf-webbplatsen är "New Attitudes --- New Möjligheter", och det är exakt temat i veckans nyhetsbrev. Syftet med våra artiklar och författare är att ...
InnerSelf-nyhetsbrev: oktober 18, 2020
by InnerSelf Staff
Dessa dagar lever vi i minibubblor ... i våra egna hem, på jobbet och offentligt, och möjligen i vårt eget sinne och med våra egna känslor. Att leva i en bubbla eller känna att vi är ...
InnerSelf-nyhetsbrev: oktober 11, 2020
by InnerSelf Staff
Livet är en resa och, som de flesta resor, kommer med sina upp-och nedgångar. Och precis som dagen alltid följer natten, så går våra personliga dagliga upplevelser från mörkt till ljus och fram och tillbaka. Dock,…
InnerSelf-nyhetsbrev: oktober 4, 2020
by InnerSelf Staff
Oavsett vad vi går igenom, både individuellt och kollektivt, måste vi komma ihåg att vi inte är hjälplösa offer. Vi kan återta vår makt att rista vår egen väg och läka våra liv, andligt ...
InnerSelf Nyhetsbrev: September 27, 2020
by InnerSelf Staff
En av mänsklighetens stora styrka är vår förmåga att vara flexibel, vara kreativ och tänka utanför lådan. Att vara någon annan än vi var igår eller dagen innan. Vi kan ändra ... ...