Är detta ansikte bara en samling datorbitar? PHOTOCREO Michal Bednarek / Shutterstock.com
När artificiella intelligenssystem börjar bli kreativa kan de skapa bra saker - och skrämmande. Ta till exempel ett AI-program som låter webbanvändare komponera musik tillsammans med en virtuell Johann Sebastian Bach genom att ange anteckningar i ett program som genererar Bach-liknande harmonier för att matcha dem.
Kör av Google, appen drew stor beröm för att vara banbrytande och kul att leka med. Det lockade också kritik, och väckte oro över AI: s faror.
Min studie av hur framväxande teknik påverkar människors liv har lärt mig att problemen går utöver det visst stora bekymmer om huruvida algoritmer kan verkligen skapa musik eller konst i allmänhet. Vissa klagomål verkade små, men det var verkligen inte som observationer som Googles AI var bryta grundläggande regler av musikens komposition.
Faktum är att ansträngningar att få datorer efterlikna själva folks beteende kan vara förvirrande och potentiellt skadliga.
Impersonationsteknik
Googles program analyserade noterna i 306 av Bachs musikaliska verk, hitta relationer mellan melodin och noterna som gav harmonien. Eftersom Bach följde strikta regler för kompositionen lärde programmet sig de här reglerna, så det kunde tillämpas när användarna gav sina egna anteckningar.
Google Doodle-teamet förklarar Bach-programmet.
{youtube}XBfYPp6KF2g{/youtube}
Bach-appen är ny, men den bakomliggande tekniken är inte. Algoritmer utbildade till känna igen mönster och göra probabilistiska beslut har funnits länge. Några av dessa algoritmer är så komplexa att människor förstår inte alltid hur de fattar beslut eller producerar ett visst utfall.
AI-system är inte perfekta - många av dem är beroende av data som inte är representativa av hela befolkningen, eller det är påverkas av mänskliga fördomar. Det är inte helt klart vem kan vara juridiskt ansvarig när ett AI-system gör ett fel eller orsakar ett problem.
Nu blir artificiella intelligenssteknologier tillräckligt avancerade för att kunna approximera individernas skriv- eller talstil och till och med ansiktsuttryck. Det här är inte alltid dåligt: En ganska enkel AI gav Stephen Hawking förmåga att kommunicera mer effektivt med andra genom att förutsäga de ord han skulle använda mest.
Mer komplexa program som efterliknar mänskliga röster hjälpa personer med funktionshinder - men kan också användas för att lura lyssnare. Till exempel tillverkare av Lyrebird, ett röstmimiteringsprogram, har släppt a simulerad konversation mellan Barack Obama, Donald Trump och Hillary Clinton. Det kan låta riktigt, men det växte aldrig.
Från gott till dåligt
I februari 2019 skapade ideella företaget OpenAI ett program som genererar text som är praktiskt taget oskiljbar från text skriven av människor. Det kan "skriva" ett tal i stil med John F. Kennedy, JRR Tolkien i "Sagan om ringen"Eller en student skriver ett skoluppdrag om inbördeskriget i USA.
Texten som genereras av OpenAIs programvara är så trovärdig som företaget har valt att inte släppa själva programmet.
Liknande tekniker kan simulera foton och videoklipp. I början av 2018 skapade till exempel skådespelare och filmskapare Jordan Peele en video som visade sig visa den tidigare amerikanska presidenten Barack Obama som sade saker som Obama aldrig sagt faktiskt att varna allmänheten om de faror som dessa teknologier utgör.
Var försiktig med vilka videoklipp du tror.
{youtube}cQ54GDm1eL0{/youtube}
I början av 2019, a falskt nakenfoto av US Rep. Alexandria Ocasio-Cortez cirkulerades online. Tillverkad video, ofta kallad "deepfakes, "Förväntas vara alltmer Begagnade i valkampanjer.
Medlemmar av kongressen har börjat titta på denna fråga före 2020 valet. Den amerikanska försvarsdepartementet lär allmänheten hur man upptäcker doktrerade videor och ljud. Nyheter organisationer gillar Reuters börjar träna journalister för att upptäcka djupfel.
Men enligt min åsikt kvarstår en ännu större oro: Användare kanske inte kan lära sig tillräckligt snabbt för att skilja på falskt innehåll, eftersom AI-tekniken blir mer sofistikerad. Till exempel, när allmänheten börjar bli medveten om djupfel, används AI redan för ännu mer avancerade bedrägerier. Det finns nu program som kan generera falska ansikten och falska digitala fingeravtryck, effektivt skapa den information som behövs för att tillverka en hel person - åtminstone i företags- eller regeringsregister.
Maskinerna fortsätter att lära sig
För närvarande finns det tillräckligt med potentiella fel i dessa tekniker för att ge människor möjlighet att upptäcka digitala tillverkningar. Googles Bach-kompositör gjorde några misstag en expert kunde upptäcka. Till exempel, när jag försökte det, tillåter programmet mig att komma in parallella femtedelar, ett musikintervall som Bach undvikas studiously. Appen också bröt musikaliska regler av motpunkt genom att harmonisera melodier i fel nyckel. På samma sätt skrev OpenAIs textgenererande program ibland formuleringar som "bränder som händer under vatten"Det visade ingen mening i deras sammanhang.
Eftersom utvecklare arbetar med sina skapelser kommer dessa misstag att bli sällsynta. Effektivt kommer AI-tekniken utvecklas och lär sig. Den förbättrade prestationen har potential att ge många sociala förmåner - inklusive bättre vård, som AI-program hjälper demokratisera medicinutövningen.
Att ge forskare och företag frihet att utforska, för att söka dessa positiva prestationer från AI-system, innebär att man riskerar att utveckla mer avancerade sätt att skapa bedrägerier och andra sociala problem. Allvarligt begränsande AI-forskning kunde begränsa den utvecklingen. Men ger bra teknik utrymme att växa kommer utan kostnad - och potentialen för missbruk, om man gör felaktig "Bach-liknande" musik eller att lura miljoner, kommer sannolikt att växa på sätt som människor ännu inte kan förutse.
Om författaren
Ana Santos Rutschman, biträdande professor i juridik, Saint Louis University
Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.
relaterade böcker
at InnerSelf Market och Amazon
