Min första riktiga medvetenhet om våra psykologiska attityder till teknik kom från en ovanlig källa: den brittiska komikern Eddie Izzard. Izzard beskriver två diametralt motsatta attityder till teknik: techo-fear och techno-joy.

De med techno-rädsla är tveksamma, blunderande och oroliga för att tekniken kommer att orsaka världens ände. De med tekno-glädje är blint optimistiska för vad teknik kan göra. Izzard förklarar hans egen techno-glädje:

När jag får en ny maskin tror jag, "Ja! Den här maskinen kommer att rädda mitt liv, jag kommer aldrig att fungera igen! "... Och det första du gör om du har tekno-glädje, får du instruktionerna och slänger dem ut genom fönstret!

En av de stora moraliska utmaningarna i vår tid kommer att vara att hitta något mellan kategorierna techo-joy och techno-fear. Vi behöver hitta något som liknar "techno-visdom" (även om jag tvivlar på att det skulle göra en bra komedi).

Det kommer att ta många människor som arbetar tillsammans för att kartlägga exakt vad denna techno-visdom ser ut. Lyckligtvis har många olika akademiker och organisationer arbetat med versioner av detta ett tag.

Argumentativa teman

De flesta argumenten om teknikcenter kring tre olika teman:

• Tekniken övervinner: Tekniken kommer antingen att rädda världen genom att övervinna våra största utmaningar eller det kommer att övervinna oss. Ett exempel är debatten kring dödliga autonoma vapensystem

• Teknikpåverkan: Tekniken kommer antingen att frigöra oss för att fokusera på det som är viktigt eller det kommer att distrahera oss från det som är viktigt. Negativa exempel visas i nästan varje episod av tv-serien Svart spegel. Mer optimistiska versioner finns i debatten om "etisk nudging".

• Tekniken förstärker: Med teknik kan vi antingen göra bra saker snabbt, effektivt och i stor skala eller vi kan göra hemska saker på samma sätt.

Parametrarna i debatten är inställda och ingen verkar vara budande i sina åsikter. Men denna dödsfall genererar etiska utmaningar. Möjligheterna är för stora för att ignorera tekniken, men riskerna är för höga för att den ska kunna fortsätta oskadd.

Att förstå tekniken är avgörande

I Izzards komedi driver okunnighet och oändlighet de som fruktar teknik. Intressant men han målar de med techno-glädje på ungefär samma sätt. Inte heller förstår tekniken. Det är här vår techno-visdom bör börja: förstå vilken teknik som är och hur den fungerar.

Filosofer av teknik som Martin Heidegger, Jacques Ellul och Albert Borgmann har hävdat att tekniken återspeglar ett distinkt sätt att se världen runt omkring oss. Det tenderar att minska världen till en rad tekniska problem att lösa och ett sortiment av saker att använda, mäta, lagra och kontrollera.

På denna förståelse är tekniken inte värdeneutral. Det uppmuntrar oss att söka kontroll, värdera effektivitet och effektivitet över andra överväganden, och reducerar allt till en måttenhet.

Det finns otaliga exempel för att bevisa denna punkt. Online-teknik utmanar traditionella journalistiska värden till förmån för fart och räckvidd. Dating apps kommodifiera våra potentiella romantiska partners och försök att fria från de faror som avvisas eller oönskade framsteg. Datorgenererad porr låter dig göra din favorit kändisförälskelse göra vad du vill. Hon behöver inte godkänna. Hon behöver inte ens veta.

Om det här är värdesystemet bakom tekniken, är vi bekväma med det, även om det gör livet oerhört bekvämt? Om inte, vad ska vi göra åt det?

Fokus på medel

Trots att de är polära motsatser, har techno-rädsla och techno-glädje en gemensam etisk tråd: fokus på resultat. Varje sida håller med om att etisk teknik måste leda till positiv förändring i världen (eller åtminstone inte skapa fler problem). De är oense om tekniken kommer att bli en kraft för gott eller illt.

Att fokusera på resultat förblindar oss till en annan dimension av teknologisk etik: det sätt på vilket dessa resultat uppnås.

Många människor tänker på tekniska processer och deras etiska konsekvenser, men ofta fokuserar de på dem eftersom de har orsakat dåliga resultat. Diskussionen blir ett annat slagfält där man kan diskutera resultat.

Till exempel debatt om COMPAS - data-dömningsalgoritmen som var föremål för en allmänt läsad Pro Publica undersökning - fokuserat på det faktum att det tenderade att producera rasbelastade resultat. Det är viktigt. Men det är också viktigt att förstå hur COMPAS fungerade, även om resultaten inte var så uppenbart problematiska.

Låt oss föreställa oss att vi visste att en algoritm som COMPAS var 100% effektiv för att förutsäga en gärningsmans sannolikhet att åsidosätta. Låt oss också föreställa oss att anledningen till att den var så exakt var att dess dataset var så omfattande. Det inkluderade varje del av privat kommunikation som en förövare hade producerat under de senaste tio åren. Varje textmeddelande, Facebook-post, e-post, telefonsamtal, webbsidovy - allt. Denna data möjliggjorde en kristallklar psykologisk profil för gärningsmannen och otroligt exakta förutsägelser om att återsändas.

Det skulle fortfarande finnas skäl att protestera mot denna teknik, inte för att det uppnådde hemska resultat, men för att det uppnådde goda resultat på ett sätt som underminerade våra allmänt hållna principer om integritet och medborgerlig frihet. Det är där en exklusivt resultatdriven filosofi blir ett verkligt problem.

Människor först

Tekniken kommer sannolikt att vara en del av lösningen på de flesta av våra stora moraliska utmaningar. Men inte ensam. En av teknologins funktioner är att förstärka mänsklig aktivitet. Det betyder att människor måste få sitt eget hus i ordning innan tekniken kan vara till hjälp.

Vi behöver också få den tekniska processen rätt. Vi behöver ändra vår standard på vad som räknas som "utmärkt" teknik bort från logiken om hastighet, effektivitet och kontroll. Om vi ​​inte gör det, kommer tekniken sannolikt att bli vår nästa stora moraliska utmaning. Mer oroande, då kan vi ha ceded för mycket makt till maskinerna för att kunna göra något åt ​​det.

Om författaren

Matthew Beard, biträdande föreläsare, University of Notre Dame Australia

Den här artikeln publicerades ursprungligen den Avlyssningen. Läs ursprungliga artikeln.

relaterade böcker

at InnerSelf Market och Amazon