Kärnan i utvecklingen av AI verkar vara en sökning efter perfektion. Och det kan vara lika farligt för mänskligheten som den som kom från filosofiska och pseudovetenskapliga idéer från 19-talet och tidigt 20-tal och ledde till kolonialismens, världskrigets och förintelsens fasor. Istället för ett mänskligt härskande "mästerskap" kan vi sluta med en maskinell.

Om detta verkar extremt, överväga den anti-mänskliga perfektionismen som redan är central på arbetsmarknaden. Här är AI-tekniken nästa steg i förutsättningen för maximal produktivitet som ersatte individuellt hantverk med fabriksproduktionslinjen. Dessa massiva produktivitetsförändringar och vårt sätt att skapa skapade möjligheter och hot som nu kommer att kompletteras av en ”fjärde industrirevolutionen”Där AI ytterligare ersätter mänskliga arbetare.

Flera senaste forskningspapper förutsäga att inom ett decennium kommer automatisering att ersätta hälften av nuvarande jobb. Så åtminstone i denna övergång till en ny digitaliserad ekonomi kommer många människor att förlora sitt försörjningsmöjligheter. Även om vi antar att denna nya industriella revolution kommer att skapa en ny arbetskraft som kan navigera och styra denna datadominerade värld, måste vi fortfarande möta stora socioekonomiska problem. Störningarna kommer att vara enorma och måste granskas.

Det ultimata målet med AI, även smal AI som hanterar mycket specifika uppgifter, är att överträffa och perfektionera varje mänsklig kognitiv funktion. Så småningom kan maskininlärningssystem mycket väl vara programmerade för att vara bättre än människor.

Vad de kanske aldrig utvecklar är dock den mänskliga beröringen - empati, kärlek, hat eller någon av de andra självmedvetna känslorna som gör oss mänskliga. Det är såvida vi inte tillskriver dessa känslor till dem, vilket är vad några av oss gör redan det med våra "Alexas" och "Siris".

Produktivitet kontra mänsklig beröring

Besattheten av perfektion och "hypereffektivitet" har haft en djupgående inverkan på mänskliga relationer, till och med mänsklig reproduktion, eftersom människor lever sina liv i kloisterade, virtuella verkligheter som de själva skapar. Till exempel har flera amerikanska och Kina-baserade företag producerat robotdockor som säljs snabbt som ersättningspartner.

En man i Kina till och med gifte sig med sin cyberdockaMedan en kvinna i Frankrike "Gifte sig" med en "robo-man", annonserade hennes kärlekshistoria som en form av "robo-sexualitet" och kampanj för att legalisera hennes äktenskap. "Jag är väldigt glad," sa hon. "Vår relation kommer att bli bättre och bättre när tekniken utvecklas." där verkar vara stor efterfrågan på robotfruar och män över hela världen.

I den perfekt produktiva världen skulle människor betraktas som värdelösa, säkert när det gäller produktivitet men också när det gäller vår svaga mänsklighet. Om vi ​​inte lägger denna perfektionistiska inställning till livet som placerar produktivitet och ”materiell tillväxt” över hållbarhet och individuell lycka, kan AI-forskning vara en annan kedja i historien om självdödande mänskliga uppfinningar.

Vi är redan bevittna diskriminering i algoritmiska beräkningar. Nyligen en populär Sydkoreanska chatbot med namnet Lee Luda togs offline. ”Hon” modellerades efter personalen till en 20-årig kvinnlig universitetsstudent och togs bort från Facebook-budbäraren efter att ha använt hatat tal mot HBT-personer.

Under tiden bär automatiserade vapen som är programmerade för att döda maxima som "produktivitet" och "effektivitet" i strid. Som ett resultat har krig blivit mer hållbart. Spridningen av drönarkrig är ett mycket levande exempel på dessa nya former av konflikt. De skapar en virtuell verklighet som nästan inte finns i vårt grepp.

Men det skulle vara komiskt att skildra AI som en oundviklig orwellsk mardröm från en armé av superintelligenta "Terminators" vars uppdrag är att radera mänskligheten. Sådana dystopiska förutsägelser är för grova för att fånga den smutsiga konstnärliga intelligensen och dess inverkan på vår vardag.

Samhällen kan dra nytta av AI om den utvecklas med tanke på hållbar ekonomisk utveckling och mänsklig säkerhet. Sammanflödet av makt och AI som eftersträvar till exempel system för kontroll och övervakning, bör inte ersätta löftet om en humaniserad AI som sätter maskininlärningsteknik i tjänst för människor och inte tvärtom.

För detta ändamål måste AI-mänskliga gränssnitt som snabbt öppnas i fängelser, hälso- och sjukvård, regering, social trygghet och gränskontroll regleras för att gynna etik och mänsklig säkerhet framför institutionell effektivitet. Samhällsvetenskap och humaniora har en mycket att säga om sådana frågor.

En sak att vara glad över är sannolikheten att AI aldrig kommer att ersätta mänsklig filosofi och intellektualitet. Att vara filosof kräver trots allt empati, förståelse för mänskligheten och våra medfödda känslor och motiv. Om vi ​​kan programmera våra maskiner för att förstå sådana etiska standarder, har AI-forskning förmågan att förbättra våra liv, vilket borde vara det yttersta målet för alla tekniska framsteg.

Men om AI-forskning ger en ny ideologi centrerad kring tanken om perfektionism och maximal produktivitet, kommer det att vara en destruktiv kraft som kommer att leda till fler krig, mer hungersnöd och mer social och ekonomisk nöd, särskilt för de fattiga. Vid denna tidpunkt av global historia är detta val fortfarande vårt.

Om författaren

Arshin Adib-Moghaddam, professor i globala tankar och jämförande filosofier, SOAS, University of London

Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.