Hur science fiction kan rädda oss från dålig teknik

Hur science fiction kan rädda oss från dålig teknik
Ahmet Misirligul / Shutterstock

Kortfilmen Slaughterbots visar en nära framtid där svärmar av mikrodroner mördar tusentals människor för deras politiska övertygelser. Släpptes i november 2017 av akademiker och aktivister som varnar om farorna med avancerad artificiell intelligens (AI), gick det snabbt viralt och lockade över 3m-visningar hittills. Det hjälpte till att gnista en offentlig debatt om framtiden för autonoma vapen och sätta press på diplomater som möts i FN Konvention om konventionella vapen.

Men den här typen av spekulativ berättelse om science fiction är inte bara användbar för att locka uppmärksamhet. De människor som designar och bygger avancerad teknik kan använda berättelser för att överväga konsekvenserna av deras arbete och se till att det används för gott. Och vi tror att den här typen av "science fiction prototyping" eller "design fiction" kan hjälpa till att förhindra mänskliga fördomar från att arbeta sig in i ny teknik och ytterligare förankra samhällets fördomar och orättvisor.

En partiskhet kan leda till godtyckliga preferenser för vissa kategorier (av resultat, personer eller idéer) framför andra. Till exempel kan vissa människor vara partiska mot att anställa kvinnor till verkställande jobb, oavsett om de är medvetna om det eller inte.

Teknologi som bygger runt data som registrerar sådana förspänningar kan hamna replikerar problemet. Till exempel kan rekryteringsprogramvara som är utformad för att välja de bästa cv-skivorna för ett visst jobb programmeras för att leta efter egenskaper som återspeglar en medvetslös partiskhet mot män. I vilket fall kommer algoritmen att gynna mäns CV. Och detta är inte teoretiskt - det faktiskt hände med Amazon.

Designa algoritmer utan att beakta möjliga negativa implikationer har jämförts till läkare "skriver om fördelarna med en given behandling och ignorerar biverkningarna, oavsett hur allvarliga de är".

Vissa teknikföretag och forskare försöker lösa problemet. Till exempel tog Google fram en uppsättning etiska principer för att vägleda dess utveckling av AI. Och brittiska akademiker har lanserat ett initiativ som heter Inte lika med som syftar till att uppmuntra till större rättvisa och rättvisa i design och användning av teknik.


Få det senaste från InnerSelf


Problemet är att företag offentligt tenderar att bara ge en positiv vision om de potentiella konsekvenserna av tekniker som är nära framtid. Till exempel framställs ofta förarlösa bilar som löser alla våra transportfrågor från kostnad till säkerhet och ignorerar det ökade faror med cyberattacks eller det faktum att de kan uppmuntra människor att gå eller cykla mindre.

Svårigheten att förstå hur digital teknik fungerar, särskilt de som är kraftigt drivna av otydliga algoritmer, gör det också svårare för människor att ha en komplex och omfattande bild av problemen. Denna situation skapar en spänning mellan en lugnande positiv berättelse och den vaga misstanken om att partier är till viss del inbäddade i teknologierna omkring oss. Det är här vi tror att berättelser genom design fiction kan komma in.

Berättelser är en naturlig metod att tänka på möjligheter och komplexa situationer, och vi har hört dem hela livet. Science fiction kan hjälpa oss att spekulera i effekterna av tekniker som är nära framtida på samhället, som Slaughterbots gör. Detta kan även omfatta frågor om social rättvisa, som vissa grupper, till exempel flyktingar och migranter utesluten från digitala innovationer.

Att avslöja (möjlig) framtid

Design fiktion berättelser tillhandahålla ett nytt sätt för designers, ingenjörer och futurister (bland andra) att tänka på effekterna av teknik ur ett mänskligt perspektiv och koppla detta till eventuella framtida behov. Med en blandning av logik och fantasi kan designfiktion avslöja aspekter av hur teknik kan användas och användas, och starta konversationer om dess framtida konsekvenser.

Till exempel novellen "Brott-sourcing”Undersöker vad som kan hända om AI skulle använda information om massan och en kriminell databas för att förutsäga vem som kan begå ett mord. Forskarna fann att eftersom databasen var full av personer i etniska minoritetsgrupper som av sociala skäl statistiskt sett var mer benägna att återanvända, så var det mer sannolikt att "brottsling" -modellen misstänker misstag minoriteter än vita människor.

Du behöver inte vara en begåvad författare eller göra en fin film för att producera designfiktion. Brainstorming-aktiviteter med kort och storyboards har använts att utveckla designfiktion och hjälpa till att utveckla berättelseprocessen. Att göra workshops som använde denna typ av verktyg mer vanliga skulle göra det möjligt för fler ingenjörer, entreprenörer och beslutsfattare att använda denna utvärderingsmetod. Och att göra det resulterande arbetet offentligt tillgängligt skulle hjälpa till att avslöja potentiella fördomar inom teknik innan de påverkar samhället.

Att uppmuntra designers att skapa och dela fler berättelser på detta sätt skulle säkerställa att berättelsen som ligger till grund för ny teknik inte bara skulle ge en positiv bild, inte heller en extremt negativ eller dystopisk. Istället kommer människor att kunna uppskatta båda aspekterna av vad som händer runt oss.Avlyssningen

Om författarna

Alessio Malizia, Professor i design av användarupplevelse, University of Hertfordshire och Silvio Carta, Chef för konst och design och ordförande för designforskningsgruppen, University of Hertfordshire

Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

följ InnerSelf på

facebook-icontwitter-iconrss-icon

Få det senaste via e-post

{Emailcloak = off}