Framtida historiker kan mycket väl betrakta 2023 som ett landmärke i tillkomsten av artificiell intelligens (AI). Men om den framtiden kommer att visa sig utopisk, apokalyptiskt or någonstans mitt emellan är någons gissning.
I februari satte ChatGPT rekordet som den snabbaste appen att nå 100 miljoner användare. Den följdes av liknande "storspråkiga" AI-modeller från Google, Amazon, Meta och andra stora teknikföretag, som tillsammans ser redo att förändra utbildning, sjukvård och många andra kunskapsintensiva områden.
Men AI:s potential för skada underströks i maj av en olycksbådande uttalande undertecknat av ledande forskare:
Att minska risken för utrotning från AI bör vara en global prioritet vid sidan av andra samhällsskada risker som pandemier och kärnvapenkrig.
I november, som svar på den växande oron för AI-risk, lovade 27 nationer (inklusive Storbritannien, USA, Indien, Kina och Europeiska unionen) samarbete vid ett första AI Safety Summit i Bletchley Park i England, för att säkerställa en säker utveckling av AI för fördel för alla.
För att uppnå detta fokuserar forskarna på AI-inriktning – det vill säga hur man ser till att AI-modeller överensstämmer med mänskliga värderingar, preferenser och mål. Men det finns ett problem - AI:s så kallade "mörk hemlighet”: storskaliga modeller är så komplexa att de är som en svart låda, omöjliga för någon att helt förstå.
AI:s black box-problem
Även om AI-systemens transparens och förklarabarhet är det viktiga forskningsmål, verkar det osannolikt att sådana ansträngningar hänger med i den frenetiska innovationstakten.
Den svarta lådan-metaforen förklarar varför människors övertygelser om AI finns över hela kartan. Förutsägelser sträcker sig från utopi till utrotning, och många tror till och med att en artificiell allmän intelligens (AGI) snart kommer uppnå känsla.
Men denna osäkerhet förvärrar problemet. AI-anpassning bör vara tvåvägs: vi måste inte bara se till att AI-modeller är förenliga med mänskliga avsikter, utan också att vår övertygelse om AI är korrekt.
Detta beror på att vi är anmärkningsvärt skickliga på att skapa framtider som överensstämmer med dessa övertygelser, även om vi är omedvetna om dem.
Så kallade "förväntanseffekter”, eller självuppfyllande profetior, är välkända inom psykologin. Och forskning har visat att manipulering av användares övertygelser inte bara påverkar hur de interagera med AI, men hur AI anpassar sig till användaren.
Med andra ord, hur våra övertygelser (medvetet eller omedvetet) påverkar AI kan potentiellt öka sannolikheten för vilket resultat som helst, inklusive katastrofala sådana.
AI, beräkning, logik och aritmetik
Vi måste undersöka djupare för att förstå grunden för AI – som Alice i Underlandet, gå ner i kaninhålet och se vart det tar oss.
För det första, vad är AI? Det körs på datorer, och så är automatiserad beräkning. Från sitt ursprung som "perceptron” – en artificiell neuron definierad matematiskt 1943 av neurofysiolog Warren McCulloch och logiker Walter Pitts – AI har varit sammanflätad med kognitiv vetenskap, neurovetenskap och datavetenskap.
Denna konvergens av sinnen, Hjärnorna och maskiner har lett till den utbredda uppfattningen att, eftersom AI är beräkning av maskin, så måste naturlig intelligens (sinnet) vara beräkning av hjärnan.
Men vad är beräkning? I slutet av 19-talet, matematiker Richard Dedekind och Giuseppe Peano föreslog en uppsättning axiom som definierad aritmetik i termer av logik, och inspirerade försök att grunda all matematik på en säker formell grund.
Även om logikern Kurt Godel senare bevisade detta mål var ouppnåeligt, hans arbete var utgångspunkten för matematiker (och kodbrytare) Alan Turing. hans "Turing maskin”, en abstrakt enhet som kan universell beräkning, är grunden för datavetenskap.
Djup struktur av perception
Så, beräkning är baserad på matematiska idéer som går tillbaka till försök att definiera aritmetik i logik. Men vår kunskap om aritmetik finns före logiken. Om vi vill förstå grunden för AI måste vi gå längre och fråga var själva aritmetiken kommer ifrån.
Mina kollegor och jag har nyligen visat att aritmetiken är baserad på "djup struktur” av uppfattningen. Denna struktur är som färgade glasögon som formar vår uppfattning på särskilda sätt, så att vår upplevelse av världen är ordnad och hanterbar.
Aritmetik består av en uppsättning element (tal) och operationer (addition, multiplikation) som kombinerar elementpar för att ge ett annat element. Vi frågade: av alla möjligheter, varför är siffror elementen, och addition och multiplikation operationerna?
Vi visade förbi matematiskt bevis att när perceptionens djupa struktur antogs begränsa möjligheterna blev aritmetiken resultatet. Med andra ord, när vårt sinne betraktar den abstrakta världen genom samma "färgade glasögon" som formar vår upplevelse av den fysiska världen, "ser" det siffror och aritmetik.
Eftersom aritmetiken är grunden för matematik, är implikationen att matematik är en reflektion av sinnet – ett uttryck i symboler för dess grundläggande natur och kreativitet.
Även om uppfattningens djupa struktur delas med andra djur och därmed en produkt av evolutionen, är det bara människor som har uppfunnit matematiken. Det är vår mest intima skapelse – och genom att möjliggöra utvecklingen av AI, kanske vår mest följdriktiga.
En koppernikansk sinnesrevolution
Vår redogörelse för aritmetikens ursprung stämmer överens med synpunkter från 18-talsfilosofen Immanuel Kant. Enligt honom är vår kunskap om världen strukturerad av "rena intuitioner" av rum och tid som existerar före sinnesupplevelse - analogt med de färgade glasögonen vi aldrig kan ta bort.
Kant gjorde anspråk på sin Filosofin var en "kopernikansk sinnets revolution". På samma sätt som forntida astronomer trodde att solen kretsade runt jorden eftersom de var omedvetna om jordens rörelse, hävdade Kant, filosofer som trodde att all kunskap härrörde från sinnesupplevelse (John Locke och David Hume, till exempel) förbise hur sinnet formar uppfattningen.
Även om Kants åsikter formades av sin samtids naturvetenskap, har de bevisat inflytelserik inom samtida psykologi.
Erkännandet av att aritmetik är en naturlig följd av vår uppfattning, och därmed biologiskt baserad, antyder ett liknande Kantianskt skifte i vår förståelse av beräkning.
Beräkning är inte "utanför" eller skild från oss i ett abstrakt område av matematisk sanning, utan inneboende i vårt sinnes natur. Sinnet är mer än beräkning; hjärnan är inte en dator. Snarare är beräkning – grunden för AI –, liksom matematik, ett symboliskt uttryck för sinnets natur och kreativitet.
Promethean eld
Vilka är konsekvenserna för AI? För det första är AI inte ett sinne och kommer aldrig att bli kännande. Tanken att vi kan överskrida vår biologiska natur och uppnå odödlighet genom att ladda upp våra sinnen till molnet är bara fantasy.
Men om sinnesprinciperna som AI bygger på delas av hela mänskligheten (och sannolikt även andra levande varelser), kan det vara möjligt att överskrida våra individuella sinnens begränsningar.
Eftersom beräkning är universell, är vi fria att simulera och skapa alla resultat vi väljer i våra alltmer sammankopplade virtuella och fysiska världar. På detta sätt är AI verkligen vår Promethean eld, en gåva till mänskligheten stulen från gudarna som i grekisk mytologi.
Som en global civilisation står vi sannolikt vid en vändpunkt. AI kommer inte att bli kännande och besluta sig för det döda oss alla. Men vi är mycket kapabla att "apokalypsa" oss själva med det - förväntan kan skapa verklighet.
Ansträngningar för att säkerställa AI-anpassning, säkerhet och säkerhet är mycket viktiga, men kanske inte räcker om vi saknar medvetenhet och kollektiv visdom. Liksom Alice behöver vi vakna upp från drömmen och känna igen verkligheten och kraften i våra sinnen.
Randolph Grace, Professor i psykologi, University of Canterbury
Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.
