AI kommer sannolikt inte att förslava mänskligheten, men det kan ta över många aspekter av våra liv. elenabs/iStock via Getty Images

Framväxten av ChatGPT och liknande system för artificiell intelligens har åtföljts av en skarp ökad oro för AI. Under de senaste månaderna har chefer och AI-säkerhetsforskare erbjudit förutsägelser, kallade "P(doom)”, om sannolikheten att AI kommer att orsaka en storskalig katastrof.

Oron toppade i maj 2023 när den ideella forsknings- och opinionsorganisationen Center for AI Safety släppte ett uttalande i en mening: "Att mildra risken för utrotning från AI bör vara en global prioritet vid sidan av andra risker i samhällsskala, såsom pandemier och kärnvapenkrig." Uttalandet undertecknades av många nyckelspelare på området, inklusive ledarna för OpenAI, Google och Anthropic, samt två av AI:s så kallade "gudfäder": Geoffrey Hinton och Yoshua Bengio.

Man kan fråga sig hur sådana existentiella rädslor är tänkta att utspela sig. Ett känt scenario är "gem maximizer” tankeexperiment artikulerat av Oxford-filosofen Nick Boström. Tanken är att ett AI-system med uppgift att producera så många gem som möjligt kan gå extra långt för att hitta råvaror, som att förstöra fabriker och orsaka bilolyckor.

A mindre resurskrävande variation har en AI i uppdrag att skaffa en reservation till en populär restaurang som stänger av mobilnät och trafikljus för att förhindra att andra besökare får ett bord.

Kontorsmaterial eller middag, grundidén är densamma: AI håller snabbt på att bli en utomjordisk intelligens, bra på att uppnå mål men farlig eftersom den inte nödvändigtvis är i linje med skaparnas moraliska värderingar. Och i sin mest extrema version förvandlas detta argument till explicit oro för AI förslava eller förstöra mänskligheten.

En gem-tillverkande AI går amok är en variant av AI-apokalypsscenariot.

Verklig skada

Under de senaste åren har jag och mina kollegor på UMass Bostons Applied Ethics Center har studerat effekten av engagemang med AI på människors förståelse av sig själva, och jag tror att dessa katastrofala orosmoment är överdrivet och felriktat.

Ja, AI:s förmåga att skapa övertygande djupfalsk video och ljud är skrämmande, och det kan missbrukas av människor med dåliga avsikter. Faktum är att det redan händer: ryska agenter försökte sannolikt genera Kremlkritiker Bill Browder genom att snärja honom i ett samtal med en avatar för Ukrainas förre president Petro Porosjenko. Cyberkriminella har använt AI-röstkloning för en mängd olika brott – från högteknologiska rån till vanliga bedrägerier.

AI beslutsfattande system som erbjuda lånegodkännande och anställningsrekommendationer medför risken för algoritmisk bias, eftersom träningsdata och beslutsmodeller de kör på återspeglar långvariga sociala fördomar.

Det här är stora problem och de kräver politiska beslutsfattares uppmärksamhet. Men de har funnits ett tag, och de är knappast katastrofala.

Inte i samma liga

Uttalandet från Center for AI Safety slog ihop AI med pandemier och kärnvapen som en stor risk för civilisationen. Det finns problem med den jämförelsen. COVID-19 resulterade i nästan 7 miljoner dödsfall över hela världen, förde på en massiva och pågående psykiska krisen och skapade ekonomiska utmaningar, inklusive kroniska brister i leveranskedjan och skenande inflation.

Kärnvapen troligen dödade mer än 200,000 personer i Hiroshima och Nagasaki 1945, krävde många fler liv på grund av cancer under åren som följde, genererade årtionden av djup oro under det kalla kriget och förde världen till randen av förintelse under den kubanska missilkrisen 1962. De har också ändrat de nationella ledarnas beräkningar om hur man ska bemöta internationell aggression, som för närvarande spelar ut med Rysslands invasion av Ukraina.

AI är helt enkelt inte i närheten av att få förmågan att göra den här typen av skada. Gem-scenariot och andra liknande det är science fiction. Befintliga AI-applikationer utför specifika uppgifter snarare än att göra breda bedömningar. Tekniken är långt ifrån att kunna bestämma sig för och sedan planera ut de mål och underordnade mål som krävs för att stänga av trafiken för att få dig en plats på en restaurang, eller spränga en bilfabrik för att tillfredsställa din längtan efter gem.

Tekniken saknar inte bara den komplicerade kapaciteten för flerskiktsbedömning som är involverad i dessa scenarier, den har inte heller autonom tillgång till tillräckliga delar av vår kritiska infrastruktur för att börja orsaka den typen av skada.

Vad det innebär att vara mänsklig

Egentligen finns det en existentiell fara med att använda AI, men den risken är existentiell i filosofisk snarare än apokalyptisk mening. AI i sin nuvarande form kan förändra hur människor ser sig själva. Det kan försämra förmågor och erfarenheter som människor anser vara väsentliga för att vara människa.

Till exempel är människor dömande varelser. Människor väger rationellt detaljer och gör dagliga bedömningssamtal på jobbet och på fritiden om vem man ska anställa, vem som ska få lån, vad man ska titta på och så vidare. Men fler och fler av dessa domar är det automatiseras och utvecklas till algoritmer. När det händer kommer världen inte att ta slut. Men människor kommer gradvis att förlora förmågan att själva göra dessa bedömningar. Ju färre av dem människor gör, desto sämre blir de sannolikt på att göra dem.

Eller överväg slumpens roll i människors liv. Människor värdesätter slumpmässiga möten: att av misstag komma över en plats, person eller aktivitet, dras in i den och i efterhand uppskatta den roll olyckan spelade i dessa meningsfulla fynd. Men rollen för algoritmiska rekommendationsmotorer är att minska den typen av serendipity och ersätt det med planering och förutsägelse.

Slutligen, överväg ChatGPT:s skrivförmåga. Tekniken håller på att eliminera uppgiftsskrivandets roll i högre utbildning. Om det gör det kommer pedagoger att förlora ett nyckelverktyg för att undervisa elever hur man tänker kritiskt.

Inte död utan förminskad

Så nej, AI kommer inte att spränga världen. Men den allt mer okritiska omfamningen av den, i en mängd snäva sammanhang, innebär en gradvis urholkning av några av människans viktigaste färdigheter. Algoritmer undergräver redan människors förmåga att göra bedömningar, njuta av slumpmässiga möten och finslipa kritiskt tänkande.

Den mänskliga arten kommer att överleva sådana förluster. Men vårt sätt att existera kommer att utarmas i processen. De fantastiska oron kring den kommande AI-katastrofen, singulariteten, Skynet, eller hur du än kan tänka dig det, skymmer dessa mer subtila kostnader. Kom ihåg TS Eliots berömda avslutande rader av "De ihåliga männen”: ”Så här slutar världen”, skrev han, ”inte med en smäll utan ett gnäll.”

Om författaren

Nir Eisikovits, professor i filosofi och chef för Applied Ethics Center, UMass Boston

Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.