Hur science fiction kan rädda oss från dålig teknik

Hur science fiction kan rädda oss från dålig teknik
Ahmet Misirligul / Shutterstock

Kortfilmen Slaughterbots visar en nära framtid där svärmar av mikrodroner mördar tusentals människor för deras politiska övertygelser. Släpptes i november 2017 av akademiker och aktivister som varnar om farorna med avancerad artificiell intelligens (AI), gick det snabbt viralt och lockade över 3m-visningar hittills. Det hjälpte till att gnista en offentlig debatt om framtiden för autonoma vapen och sätta press på diplomater som möts i FN Konvention om konventionella vapen.

Men den här typen av spekulativ berättelse om science fiction är inte bara användbar för att locka uppmärksamhet. De människor som designar och bygger avancerad teknik kan använda berättelser för att överväga konsekvenserna av deras arbete och se till att det används för gott. Och vi tror att den här typen av "science fiction prototyping" eller "design fiction" kan hjälpa till att förhindra mänskliga fördomar från att arbeta sig in i ny teknik och ytterligare förankra samhällets fördomar och orättvisor.

En partiskhet kan leda till godtyckliga preferenser för vissa kategorier (av resultat, personer eller idéer) framför andra. Till exempel kan vissa människor vara partiska mot att anställa kvinnor till verkställande jobb, oavsett om de är medvetna om det eller inte.

Teknologi som bygger runt data som registrerar sådana förspänningar kan hamna replikerar problemet. Till exempel kan rekryteringsprogramvara som är utformad för att välja de bästa cv-skivorna för ett visst jobb programmeras för att leta efter egenskaper som återspeglar en medvetslös partiskhet mot män. I vilket fall kommer algoritmen att gynna mäns CV. Och detta är inte teoretiskt - det faktiskt hände med Amazon.

Designa algoritmer utan att beakta möjliga negativa implikationer har jämförts till läkare "skriver om fördelarna med en given behandling och ignorerar biverkningarna, oavsett hur allvarliga de är".

Vissa teknikföretag och forskare försöker lösa problemet. Till exempel tog Google fram en uppsättning etiska principer för att vägleda dess utveckling av AI. Och brittiska akademiker har lanserat ett initiativ som heter Inte lika med som syftar till att uppmuntra till större rättvisa och rättvisa i design och användning av teknik.

Problemet är att företag offentligt tenderar att bara ge en positiv vision om de potentiella konsekvenserna av tekniker som är nära framtid. Till exempel framställs ofta förarlösa bilar som löser alla våra transportfrågor från kostnad till säkerhet och ignorerar det ökade faror med cyberattacks eller det faktum att de kan uppmuntra människor att gå eller cykla mindre.

Svårigheten att förstå hur digital teknik fungerar, särskilt de som är kraftigt drivna av otydliga algoritmer, gör det också svårare för människor att ha en komplex och omfattande bild av problemen. Denna situation skapar en spänning mellan en lugnande positiv berättelse och den vaga misstanken om att partier är till viss del inbäddade i teknologierna omkring oss. Det är här vi tror att berättelser genom design fiction kan komma in.

Berättelser är en naturlig metod att tänka på möjligheter och komplexa situationer, och vi har hört dem hela livet. Science fiction kan hjälpa oss att spekulera i effekterna av tekniker som är nära framtida på samhället, som Slaughterbots gör. Detta kan även omfatta frågor om social rättvisa, som vissa grupper, till exempel flyktingar och migranter utesluten från digitala innovationer.

Att avslöja (möjlig) framtid

Design fiktion berättelser tillhandahålla ett nytt sätt för designers, ingenjörer och futurister (bland andra) att tänka på effekterna av teknik ur ett mänskligt perspektiv och koppla detta till eventuella framtida behov. Med en blandning av logik och fantasi kan designfiktion avslöja aspekter av hur teknik kan användas och användas, och starta konversationer om dess framtida konsekvenser.

Till exempel novellen "Brott-sourcing”Undersöker vad som kan hända om AI skulle använda information om massan och en kriminell databas för att förutsäga vem som kan begå ett mord. Forskarna fann att eftersom databasen var full av personer i etniska minoritetsgrupper som av sociala skäl statistiskt sett var mer benägna att återanvända, så var det mer sannolikt att "brottsling" -modellen misstänker misstag minoriteter än vita människor.

Du behöver inte vara en begåvad författare eller göra en fin film för att producera designfiktion. Brainstorming-aktiviteter med kort och storyboards har använts att utveckla designfiktion och hjälpa till att utveckla berättelseprocessen. Att göra workshops som använde denna typ av verktyg mer vanliga skulle göra det möjligt för fler ingenjörer, entreprenörer och beslutsfattare att använda denna utvärderingsmetod. Och att göra det resulterande arbetet offentligt tillgängligt skulle hjälpa till att avslöja potentiella fördomar inom teknik innan de påverkar samhället.

Att uppmuntra designers att skapa och dela fler berättelser på detta sätt skulle säkerställa att berättelsen som ligger till grund för ny teknik inte bara skulle ge en positiv bild, inte heller en extremt negativ eller dystopisk. Istället kommer människor att kunna uppskatta båda aspekterna av vad som händer runt oss.Avlyssningen

Om författarna

Alessio Malizia, Professor i design av användarupplevelse, University of Hertfordshire och Silvio Carta, Chef för konst och design och ordförande för designforskningsgruppen, University of Hertfordshire

Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.

books_culture

enafarzh-CNzh-TWdanltlfifrdeiwhihuiditjakomsnofaplptruesswsvthtrukurvi

följ InnerSelf på

Facebookikon ikon~~POS=HEADCOMPtwitter iconyoutube iconinstagram ikonpintrest ikonrss-ikonen

 Få det senaste via e-post

Veckotidningen Daglig Inspiration

SENASTE FILMER

Den stora klimatmigrationen har börjat
Den stora klimatmigrationen har börjat
by super~~POS=TRUNC
Klimatkrisen tvingar tusentals runt om i världen att fly eftersom deras hem blir alltmer obeboeliga.
Den senaste istiden berättar för varför vi måste bry oss om en 2 ℃ temperaturförändring
Den senaste istiden berättar för varför vi måste bry oss om en 2 ℃ temperaturförändring
by Alan N Williams, et al
I den senaste rapporten från den mellanstatliga panelen för klimatförändringar (IPCC) sägs att utan en väsentlig minskning ...
Jorden har varit beboelig i miljarder år - exakt hur lycklig vi fick?
Jorden har varit beboelig i miljarder år - exakt hur lycklig vi fick?
by Toby Tyrrell
Det tog evolution 3 eller 4 miljarder år att producera Homo sapiens. Om klimatet helt hade misslyckats bara en gång i det ...
Hur kartläggning av vädret för 12,000 XNUMX år sedan kan hjälpa till att förutsäga framtida klimatförändringar
Hur kartläggning av vädret för 12,000 XNUMX år sedan kan hjälpa till att förutsäga framtida klimatförändringar
by Brice Rea
Slutet av den sista istiden, för cirka 12,000 XNUMX år sedan, kännetecknades av en sista kall fas kallad Younger Dryas ...
Kaspiska havet kommer att falla med 9 meter eller mer under detta århundrade
Kaspiska havet kommer att falla med 9 meter eller mer under detta århundrade
by Frank Wesselingh och Matteo Lattuada
Tänk dig att du befinner dig vid kusten och tittar ut mot havet. Framför dig ligger 100 meter karg sand som ser ut som en ...
Venus var en gång mer jordlik, men klimatförändringen gjorde det obeboelig
Venus var en gång mer jordlik, men klimatförändringen gjorde det obeboelig
by Richard Ernst
Vi kan lära oss mycket om klimatförändringar från Venus, vår systerplanet. Venus har för närvarande en yttemperatur på ...
Fem klimattroar: En kraschkurs i felaktig klimatinformation
De fem klimattroerna: en kraschkurs i felaktig klimatinformation
by John Cook
Den här videon är en kraschkurs i klimatinformation som sammanfattar de viktigaste argumenten som används för att tvivla på verkligheten ...
Arktis har inte varit så varm på 3 miljoner år och det betyder stora förändringar för planeten
Arktis har inte varit så varm på 3 miljoner år och det betyder stora förändringar för planeten
by Julie Brigham-Grette och Steve Petsch
Varje år krymper havsisskyddet i Arktiska havet till en låg punkt i mitten av september. I år mäter den bara 1.44 ...

SENASTE ARTIKLAR

grön energi2 3
Fyra gröna vätgasmöjligheter för Mellanvästern
by Christian Tae
För att avvärja en klimatkris kommer Mellanvästern, liksom resten av landet, att behöva göra koldioxidutsläpp till sin ekonomi helt genom att...
ug83qrfw
Stora hinder för att kräva svar måste upphöra
by John Moore, On Earth
Om federala tillsynsmyndigheter gör det rätta, kan elkunder i Mellanvästern snart kunna tjäna pengar medan...
träd att plantera för klimat2
Plantera dessa träd för att förbättra stadslivet
by Mike Williams-Rice
En ny studie fastställer levande ekar och amerikanska plataner som mästare bland 17 "superträd" som kommer att hjälpa till att göra städer ...
norra havets botten
Varför vi måste förstå havsbottengeologin för att utnyttja vindarna
by Natasha Barlow, docent i kvartär miljöförändring, University of Leeds
För alla länder som är välsignade med enkel tillgång till det grunda och blåsiga Nordsjön kommer havsvind att vara nyckeln till att möta nätet...
3 skogsbrandlektioner för skogsstäder när Dixie Fire förstör historiska Greenville, Kalifornien
3 skogsbrandlektioner för skogsstäder när Dixie Fire förstör historiska Greenville, Kalifornien
by Bart Johnson, professor i landskapsarkitektur, University of Oregon
En löpeld som brinner i het, torr bergskog svepte genom Gold Rush -staden Greenville, Kalifornien, den 4 augusti, ...
Kina kan möta energi- och klimatmål som begränsar kolkraften
Kina kan möta energi- och klimatmål som begränsar kolkraften
by Alvin Lin
Vid Leader's Climate Summit i april lovade Xi Jinping att Kina kommer att "strikt kontrollera koleldad kraft ...
Blått vatten omgivet av dött vitt gräs
Kartan spårar 30 års extrem snösmältning i USA
by Mikayla Mace-Arizona
En ny karta över extrema snösmältningar under de senaste 30 åren förtydligar processerna som driver snabb smältning.
Ett plan tappar röd brandskyddsmedel till en skogsbrand när brandmän parkerade längs en väg ser upp mot den orange himlen
Modellen förutspår 10-åriga skogsbrand, sedan gradvis nedgång
by Hannah Hickey-U. Washington
En titt på den långsiktiga framtiden för skogsbränder förutsäger en första ungefär decennier lång utbrott av skogsbrandaktivitet, ...

 Få det senaste via e-post

Veckotidningen Daglig Inspiration

Nya Attityder - Nya Möjligheter

InnerSelf.comClimateImpactNews.com | InnerPower.net
MightyNatural.com | WholisticPolitics.com | InnerSelf Market
Copyright © 1985 - 2021 Innerself Publikationer. All Rights Reserved.