shutterstock.
Individualistiska västerländska samhällen bygger på idén att ingen känner våra tankar, önskningar eller glädje bättre än vi gör. Och så sätter vi oss, snarare än regeringen, som ansvarar för våra liv. Vi tenderar att hålla med filosofen Immanuel Kants påstående att ingen har rätt att tvinga sin idé om det goda livet på oss.
Artificiell intelligens (AI) kommer att förändra detta. Det kommer att känna oss bättre än vi känner oss själva. En regering beväpnad med AI kan påstå sig veta vad dess folk verkligen vill och vad som verkligen kommer att göra dem lyckliga. I bästa fall kommer den att använda detta för att motivera paternalism, i värsta fall totalitarism.
Varje helvete börjar med ett löfte om himlen. AI-ledd totalitarism kommer inte att vara annorlunda. Frihet kommer att bli lydnad mot staten. Endast de irrationella, spitefulla eller subversiva kunde vilja välja sin egen väg.
För att förhindra en sådan dystopi får vi inte låta andra veta mer om oss själva än vi gör. Vi kan inte tillåta ett gap om självkunskap.
Den All-Seeing AI
År 2019 hävdade miljardärsinvesteraren Peter Thiel att AI var "bokstavligen kommunist”. Han påpekade att AI tillåter en centraliserande makt att övervaka medborgarna och veta mer om dem än de vet om sig själva. Kina, konstaterade Thiel, har ivrigt omfamnat AI.
Vi vet redan AI: s potential att stödja totalitarism genom att tillhandahålla ett Orwellskt system för övervakning och kontroll. Men AI ger också totalitärer ett filosofiskt vapen. Så länge vi kände oss bättre än regeringen gjorde, kunde liberalismen hålla strävande totalitärer i fjärran.
Men AI har förändrat spelet. Stora teknikföretag samlar in enorma mängder data om vårt beteende. Maskininlärningsalgoritmer använder dessa data för att beräkna inte bara vad vi kommer att göra, utan vem vi är.
I dag, AI kan förutsäga vilka filmer vi kommer att gilla, vilka nyheter vi vill läsa och vem vi vill vän på Facebook. Det kan förutsäga om par kommer att stanna tillsammans och om vi kommer försöka självmord. Från våra Facebook-gillar, AI kan förutsäga våra religiösa och politiska åsikter, personlighet, intelligens, droganvändning och lycka.
Noggrannheten i AI: s förutsägelser kommer bara att förbättras. I en inte alltför avlägsen framtid, som författaren Yuval Noah Harari har föreslagit kan AI berätta vem vi är innan vi själva vet.
Denna utveckling har seismiska politiska konsekvenser. Om regeringar kan känna oss bättre än vi kan, öppnas en ny motivering för att ingripa i våra liv. De kommer att tyrannisera oss i vårt eget bästa.
Frihet genom tyranni
Filosofen Isaiah Berlin förutsåg detta 1958. Han identifierade två typer av frihet. En typ, varnade han, skulle leda till tyranni.
Negativ frihet är ”frihet från”. Det är frihet från inblandning från andra människor eller regering i dina angelägenheter. Negativ frihet är att ingen annan kan begränsa dig, så länge du inte kränker någon annans rättigheter.
Däremot är positiv frihet ”frihet till”. Det är friheten att vara herre över dig själv, friheten att uppfylla dina verkliga önskemål, friheten att leva ett rationellt liv. Vem vill inte ha det här?
Men tänk om någon annan säger att du inte agerar i ditt "verkliga intresse", även om de vet hur du kunde. Om du inte lyssnar, kan de göra det tvinga dig att vara fri - tvinga dig till ditt "eget bästa". Detta är en av de farligaste idéerna som någonsin har uppfattats. Det dödade tiotals miljoner människor i Stalins Sovjetunion och Maos Kina.
Den ryska kommunistledaren Lenin rapporteras ha sagt att kapitalisterna skulle sälja honom det rep han skulle hänga dem med. Peter Thiel har hävdat att i AI har kapitalistiska teknikföretag i Silicon Valley sålt kommunismen ett verktyg som hotar att undergräva det demokratiska kapitalistiska samhället. AI är Lenins rep.
Kämpar för oss själva
Vi kan bara förhindra en sådan dystopi om ingen får känna oss bättre än vi själva känner. Vi får aldrig sentimentalisera någon som söker en sådan makt över oss som välmenande. Historiskt har detta bara någonsin slutat på olycka.
Ett sätt att förhindra ett klyft med självkunskap är att höja våra integritetsskydd. Thiel, som betecknade AI som kommunistisk, har hävdat att "crypto är libertarian”. Cryptocururrency kan vara "integritet aktivera”. Sekretess minskar andras förmåga att känna oss och sedan använda denna kunskap till manipulera oss för deras egen vinst.
Men att känna oss bättre genom AI erbjuder kraftfulla fördelar. Vi kan kanske använda den för att bättre förstå vad som gör oss lyckliga, friska och rika. Det kan hjälpa vägleda våra karriärval. Mer generellt AI lovar att skapa den ekonomiska tillväxten den där håller oss från varandras halsar.
Problemet är inte att AI förbättrar vår självkunskap. Problemet är en maktskillnad i vad som är känt om oss. Kunskap om oss uteslutande i någon annans händer är makt över oss. Men kunskap om oss i våra egna händer är makt för oss.
Någon som bearbetar våra data att skapa kunskap om oss bör vara juridiskt skyldiga att ge oss tillbaka den kunskapen. Vi måste uppdatera idén om "ingenting om oss utan oss”För AI-åldern.
Det AI berättar om oss själva är att vi ska överväga att använda, inte för att andra ska tjäna på att missbruka. Det borde bara vara en hand på vår själ. Och det borde vara vårt.
Om författaren
Simon McCarthy-Jones, docent i klinisk psykologi och neuropsykologi, Trinity College Dublin
Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.
Relaterade böcker:
On Tyranni: Twenty Lessons from the Twentieth Century
av Timothy Snyder
Den här boken ger lärdomar från historien för att bevara och försvara demokrati, inklusive betydelsen av institutioner, enskilda medborgares roll och farorna med auktoritärism.
Klicka för mer info eller för att beställa
Vår tid är nu: Makt, syfte och kampen för ett rättvist Amerika
av Stacey Abrams
Författaren, en politiker och aktivist, delar sin vision för en mer inkluderande och rättvis demokrati och erbjuder praktiska strategier för politiskt engagemang och väljarmobilisering.
Klicka för mer info eller för att beställa
Hur demokratier dör
av Steven Levitsky och Daniel Ziblatt
Den här boken undersöker varningssignalerna och orsakerna till demokratiskt sammanbrott, och bygger på fallstudier från hela världen för att ge insikter om hur man kan skydda demokratin.
Klicka för mer info eller för att beställa
The People, No: A Brief History of Anti-Populism
av Thomas Frank
Författaren ger en historia om populistiska rörelser i USA och kritiserar den "antipopulistiska" ideologi som han hävdar har kvävt demokratiska reformer och framsteg.
Klicka för mer info eller för att beställa
Demokrati i en bok eller mindre: hur det fungerar, varför det inte gör det och varför det är lättare än du tror att fixa det
av David Litt
Den här boken ger en översikt över demokratin, inklusive dess styrkor och svagheter, och föreslår reformer för att göra systemet mer lyhört och ansvarsfullt.
