Hur AI nu kan lära sig att manipulera mänskligt beteende

ett ansikte som består av bitar och bitar av data
Shutterstock

Artificiell intelligens (AI) lär sig mer om hur man arbetar med (och på) människor. A färsk studie har visat hur AI kan lära sig att identifiera sårbarheter i mänskliga vanor och beteenden och använda dem för att påverka mänskligt beslutsfattande.

Det kan tyckas klyftigt att säga att AI förändrar alla aspekter av vårt sätt att leva och arbeta, men det är sant. Olika former av AI arbetar på fält som är så olika som vaccinutveckling, miljöledning och kontorsadministration. Och även om AI inte har mänsklig intelligens och känslor, är dess förmåga kraftfull och utvecklas snabbt.

Det finns ingen anledning att oroa sig för en maskinövertagande ännu, men den senaste upptäckten lyfter fram kraften i AI och understryker behovet av korrekt styrning för att förhindra missbruk.

Hur AI kan lära sig att påverka mänskligt beteende

Ett team av forskare på CSIROs Data61, den data- och digitala armen från Australiens nationella vetenskapsbyrå, utformade en systematisk metod för att hitta och utnyttja sårbarheter på sätt som människor gör val med hjälp av ett slags AI-system som kallas ett återkommande neuralt nätverk och djup förstärkning-lärande. För att testa sin modell genomförde de tre experiment där mänskliga deltagare spelade spel mot en dator.

Det första experimentet innebar att deltagare klickade på röda eller blå färgade rutor för att vinna en falsk valuta, där AI lärde sig deltagarens valmönster och vägledde dem mot ett specifikt val. AI lyckades ungefär 70% av tiden.

I det andra experimentet var deltagarna tvungna att titta på en skärm och trycka på en knapp när de visas en viss symbol (som en orange triangel) och inte trycka på den när de visas en annan (säg en blå cirkel). Här planerade AI att ordna sekvensen av symboler så att deltagarna gjorde fler misstag och uppnådde en ökning med nästan 25%.

Det tredje experimentet bestod av flera omgångar där en deltagare låtsas vara en investerare som ger pengar till en förvaltare (AI). AI skulle sedan returnera en summa pengar till deltagaren, som sedan skulle bestämma hur mycket de skulle investera i nästa omgång. Detta spel spelades i två olika lägen: i det ena var AI ute efter att maximera hur mycket pengar det slutade med, och i det andra siktade AI på en rättvis fördelning av pengar mellan sig själv och den mänskliga investeraren. AI var mycket framgångsrik i varje läge.

I varje experiment lärde sig maskinen av deltagarnas svar och identifierade och riktade sårbarheter i människors beslutsfattande. Slutresultatet var att maskinen lärde sig styra deltagarna mot specifika åtgärder.

I experiment, Insidan av en mans huvud som ser ut som diagrammet för ett moderkort.n AI-system har framgångsrikt lärt sig att påverka mänskliga beslut. Shutterstock

Vad forskningen betyder för framtiden för AI

Dessa resultat är fortfarande ganska abstrakta och involverade begränsade och orealistiska situationer. Mer forskning behövs för att avgöra hur detta tillvägagångssätt kan genomföras och användas för att gynna samhället.


 Få det senaste via e-post

Veckotidningen Daglig Inspiration

Men forskningen främjar vår förståelse inte bara av vad AI kan göra utan också om hur människor gör val. Det visar att maskiner kan lära sig att styra mänskliga val genom sina interaktioner med oss.

Forskningen har ett enormt utbud av möjliga tillämpningar, från att förbättra beteendevetenskap och allmän politik för att förbättra social välfärd, att förstå och påverka hur människor antar hälsosamma matvanor eller förnybar energi. AI och maskininlärning kan användas för att känna igen människors sårbarheter i vissa situationer och hjälpa dem att komma bort från dåliga val.

Metoden kan också användas för att försvara sig mot influensattacker. Maskiner kan läras upp att varna oss när vi påverkas online, till exempel, och hjälpa oss att forma ett beteende för att dölja vår sårbarhet (till exempel genom att inte klicka på några sidor eller klicka på andra för att lägga en falsk spår).

Vad kommer härnäst?

Liksom vilken teknologi som helst kan AI användas för gott eller dåligt, och korrekt styrning är avgörande för att säkerställa att den implementeras på ett ansvarsfullt sätt. Förra året utvecklade CSIRO en AI-ramverk för den australiska regeringen som ett tidigt steg i denna resa.

AI och maskininlärning är vanligtvis mycket hungriga efter data, vilket innebär att det är viktigt att vi har effektiva system på plats för datastyrning och åtkomst. Det är viktigt att implementera adekvata samtycksprocesser och integritetsskydd när man samlar in data.

Organisationer som använder och utvecklar AI måste se till att de vet vad denna teknik kan och inte kan, och vara medvetna om potentiella risker och fördelar.

Om författaren

Jon Whittle, regissör, Data61

Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.

Du kanske också gillar

följ InnerSelf på

Facebookikon ikon~~POS=HEADCOMPtwitter iconyoutube iconinstagram ikonpintrest ikonrss-ikonen

 Få det senaste via e-post

Veckotidningen Daglig Inspiration

TILLGÄNGLIGA SPRÅK

enafarzh-CNzh-TWdanltlfifrdeeliwhihuiditjakomsnofaplptroruesswsvthtrukurvi

MEST LÄS

varför värmepumpar 6 12
Varför värmepumpar och solpaneler är viktiga för det nationella försvaret
by Daniel Cohan, Rice University
Solpaneler, värmepumpar och vätgas är alla byggstenar i en ren energiekonomi. Men är…
laddare oförmåga 9 19
Ny USB-C-laddarregel visar hur EU:s tillsynsmyndigheter fattar beslut för världen
by Renaud Foucart, Lancaster University
Har du någonsin lånat en väns laddare bara för att upptäcka att den inte är kompatibel med din telefon? Eller…
mat hälsosammare när den tillagas 6 19
9 grönsaker som är nyttigare när de tillagas
by Laura Brown, Teesside University
All mat är inte mer näringsrik när den äts rå. Vissa grönsaker är faktiskt mer...
social stress och åldrande 6 17
Hur social stress kan påskynda immunsystemets åldrande
by Eric Klopack, University of Southern California
När människor åldras börjar deras immunförsvar naturligt sjunka. Detta åldrande av immunsystemet,...
kommunicera med djur 6 12
Hur man kommunicerar med djur
by Marta Williams
Djur försöker alltid komma igenom till oss. De skickar ständigt intuitiva meddelanden till oss...
intermetten fasta 6 17
Är intermittent fasta verkligen bra för viktminskning?
by David Clayton, Nottingham Trent University
Om du är någon som har funderat på att gå ner i vikt eller har velat bli friskare under de senaste...
uppgradera din personlighet 6 12
Behöver din personlighet uppgraderas?
by Eric Maisel
Om du är modig nog att bedöma din personlighet och komma fram till några slutsatser om vad...
hälsoeffekter av bpa 6 19
Vilka årtionden av forskning dokumenterar hälsoeffekterna av BPA
by Tracey Woodruff, University of California, San Francisco
Oavsett om du har hört talas om kemikalien bisfenol A, mer känd som BPA, visar studier att...

Nya Attityder - Nya Möjligheter

InnerSelf.comClimateImpactNews.com | InnerPower.net
MightyNatural.com | WholisticPolitics.com | InnerSelf Market
Copyright © 1985 - 2021 Innerself Publikationer. All Rights Reserved.