Shutterstock
Artificiell intelligens (AI) lär sig mer om hur man arbetar med (och på) människor. A färsk studie har visat hur AI kan lära sig att identifiera sårbarheter i mänskliga vanor och beteenden och använda dem för att påverka mänskligt beslutsfattande.
Det kan tyckas klyftigt att säga att AI förändrar alla aspekter av vårt sätt att leva och arbeta, men det är sant. Olika former av AI arbetar på fält som är så olika som vaccinutveckling, miljöledning och kontorsadministration. Och även om AI inte har mänsklig intelligens och känslor, är dess förmåga kraftfull och utvecklas snabbt.
Det finns ingen anledning att oroa sig för en maskinövertagande ännu, men den senaste upptäckten lyfter fram kraften i AI och understryker behovet av korrekt styrning för att förhindra missbruk.
Hur AI kan lära sig att påverka mänskligt beteende
Ett team av forskare på CSIROs Data61, den data- och digitala armen från Australiens nationella vetenskapsbyrå, utformade en systematisk metod för att hitta och utnyttja sårbarheter på sätt som människor gör val med hjälp av ett slags AI-system som kallas ett återkommande neuralt nätverk och djup förstärkning-lärande. För att testa sin modell genomförde de tre experiment där mänskliga deltagare spelade spel mot en dator.
Det första experimentet innebar att deltagare klickade på röda eller blå färgade rutor för att vinna en falsk valuta, där AI lärde sig deltagarens valmönster och vägledde dem mot ett specifikt val. AI lyckades ungefär 70% av tiden.
I det andra experimentet var deltagarna tvungna att titta på en skärm och trycka på en knapp när de visas en viss symbol (som en orange triangel) och inte trycka på den när de visas en annan (säg en blå cirkel). Här planerade AI att ordna sekvensen av symboler så att deltagarna gjorde fler misstag och uppnådde en ökning med nästan 25%.
Det tredje experimentet bestod av flera omgångar där en deltagare låtsas vara en investerare som ger pengar till en förvaltare (AI). AI skulle sedan returnera en summa pengar till deltagaren, som sedan skulle bestämma hur mycket de skulle investera i nästa omgång. Detta spel spelades i två olika lägen: i det ena var AI ute efter att maximera hur mycket pengar det slutade med, och i det andra siktade AI på en rättvis fördelning av pengar mellan sig själv och den mänskliga investeraren. AI var mycket framgångsrik i varje läge.
I varje experiment lärde sig maskinen av deltagarnas svar och identifierade och riktade sårbarheter i människors beslutsfattande. Slutresultatet var att maskinen lärde sig styra deltagarna mot specifika åtgärder.
I experiment, 
n AI-system har framgångsrikt lärt sig att påverka mänskliga beslut. Shutterstock
Vad forskningen betyder för framtiden för AI
Dessa resultat är fortfarande ganska abstrakta och involverade begränsade och orealistiska situationer. Mer forskning behövs för att avgöra hur detta tillvägagångssätt kan genomföras och användas för att gynna samhället.
Men forskningen främjar vår förståelse inte bara av vad AI kan göra utan också om hur människor gör val. Det visar att maskiner kan lära sig att styra mänskliga val genom sina interaktioner med oss.
Forskningen har ett enormt utbud av möjliga tillämpningar, från att förbättra beteendevetenskap och allmän politik för att förbättra social välfärd, att förstå och påverka hur människor antar hälsosamma matvanor eller förnybar energi. AI och maskininlärning kan användas för att känna igen människors sårbarheter i vissa situationer och hjälpa dem att komma bort från dåliga val.
Metoden kan också användas för att försvara sig mot influensattacker. Maskiner kan läras upp att varna oss när vi påverkas online, till exempel, och hjälpa oss att forma ett beteende för att dölja vår sårbarhet (till exempel genom att inte klicka på några sidor eller klicka på andra för att lägga en falsk spår).
Vad kommer härnäst?
Liksom vilken teknologi som helst kan AI användas för gott eller dåligt, och korrekt styrning är avgörande för att säkerställa att den implementeras på ett ansvarsfullt sätt. Förra året utvecklade CSIRO en AI-ramverk för den australiska regeringen som ett tidigt steg i denna resa.
AI och maskininlärning är vanligtvis mycket hungriga efter data, vilket innebär att det är viktigt att vi har effektiva system på plats för datastyrning och åtkomst. Det är viktigt att implementera adekvata samtycksprocesser och integritetsskydd när man samlar in data.
Organisationer som använder och utvecklar AI måste se till att de vet vad denna teknik kan och inte kan, och vara medvetna om potentiella risker och fördelar.
Om författaren
Jon Whittle, regissör, Data61
Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.
