Image Flow / Shutterstock

Inte nöjd med övervakning nästan allt du gör online, Facebook vill nu läsa ditt sinne också. Den sociala mediagiganten meddelade nyligen ett genombrott i sin plan att skapa en enhet som läser människors hjärnvågor så att de kan skriva bara genom att tänka. Och Elon Musk vill gå ännu längre. Ett av Tesla-chefens andra företag, Neuralink, är utveckla ett hjärnimplantat att ansluta människors sinne direkt till en dator.

Musk medger att han tar inspiration från science fiction, och att han vill se till att människor kan "Hålla jämna steg" med konstgjord intelligens. Han verkar ha missat den del av sci-fi som fungerar som en varning för teknikens konsekvenser.

Dessa tankeläsningssystem kan påverka vår integritet, säkerhet, identitet, jämlikhet och personliga säkerhet. Vill vi verkligen ha allt som lämnats åt företag med filosofier som Facebooks tidigare mantra, "gå snabbt och bryta saker"?

Även om de låter futuristiska, är teknologierna som krävs för att göra hjärnvågavläsningsanordningar inte lika stora som standard MRI (magnetisk resonansavbildning) och EEG (elektroencefalografi) neurovetenskapliga verktyg som används på sjukhus över hela världen. Du kan redan köpa ett kit för att styra en drone med ditt sinne, så att använda ett för att skriva ut ord är på vissa sätt inte så mycket av ett hopp. Framsteget kommer sannolikt att bero på användningen av maskininlärning för att sila genom enorma mängder data som samlas in från våra hjärnor och hitta mönstren i neuronaktivitet som kopplar tankar till specifika ord.

Ett hjärnimplantat tar sannolikt mycket längre tid att utvecklas, och det är viktigt att separera det faktiska prestationer av Neuralink från mediahype och marknadsföring. Men Neuralink har gjort förbättringar av material för elektroder och robotassisterad kirurgi samtidigt för att implantera dem och förpackat tekniken snyggt så att den kan läsas via USB.

{vembed Y=kPGa_FuGPIc}

Facebook och Neuralinks planer kan bygga på etablerad medicinsk praxis. Men när företag samlar tankar direkt från våra hjärnor är de etiska frågorna mycket olika.

Alla system som kan samla in data direkt från våra hjärnor har tydliga integritetsrisker. Sekretess handlar om samtycke. Men det är väldigt svårt att ge rätt samtycke om någon tappar direkt på våra tankar. Silicon Valley-företag (och regeringar) redan samlas surreptitious så mycket information om oss som de kan och använda den på sätt vi vill snarare gjorde de inte. Hur säkra kan vi vara på att våra slumpmässiga och personliga tankar inte fångas och studeras tillsammans med de instruktioner vi vill ge tekniken?

Diskriminering och manipulation

En av de befintliga etiska frågorna med datainsamling är diskriminering baserat på attribut som kön eller ras som kan urskiljas från uppgifterna. Att ge ett fönster i människors sinne kan göra det lättare att fastställa andra saker som kan ligga till grund för fördomar, till exempel sexualitet eller politisk ideologi, eller till och med olika tankesätt som kan inkludera saker som autism.

Med ett system som tappar direkt i din hjärna kan inte bara dina tankar stulas, utan det är också möjligt att de också kan manipuleras. Hjärnstimulering utvecklas redan för att hjälpa till behandla PTSD och minska våldet. Det finns till och med sensationella påståenden som det kan användas till ladda upp kunskap direkt precis som i filmen The Matrix.

Ett förutsägbart steg skulle vara att kombinera "in" och "out" teknologierna för ett tvåvägs hjärn-datorgränssnitt. Potentialen för regeringar att göra oss mer kompatibla, för arbetsgivare att tvinga oss att arbeta hårdare eller för företag att få oss att ha mer av sina produkter understryker hur seriöst vi bör ta denna teknik.

Facebooks prototyp hjärnvågläsningsenhet. Facebook

Om tankeläsande enheter blir det vanliga sättet att interagera med datorer kan vi sluta med något annat val än att använda dem för att hålla jämna steg med mer produktiva kollegor. (Föreställ dig att någon idag ansöker om ett kontorsjobb men vägrar att använda e-post.) Och om implantat i Neuralink-stil blir normen kan detta också leda till större ojämlikhet bestäms av vilken nivå av kit du hade råd att ha installerat.

Elon Musk har sagt att det enorma lånet som krävs för att ge Neuralink-operation skulle kompenseras av potentiella intäkter för det "förbättrade". Tanken på att människor känner sig pressade att ta enorma skulder för att få operation bara för att behålla sitt jobb kommer direkt från en sci-fi dystopi.

Ovanpå allt detta är det mer direkta fysiska hotet att ha system fysiskt intrång i våra hjärnor. Medan vissa människor kanske vill ändra sin hjärna med ett datorgränssnitt (det finns redan gott om experimentella biohackare), för att rulla ut detta i stor skala kräver massiv och grundlig testning.

Med tanke på Silicon Valley rykte (och förkärlek) för att bryta saker snarare än att sluta tänka dem igenom, kommer dessa system att behöva noggrann reglering och etisk granskning även innan testningen börjar. Annars riskerar det att skapa mjuktade marsvin.

För allt detta kan det vara enorma fördelar med att fortsätta forskning på detta område, särskilt för dem som lider av förlamning eller sensorisk nedsättning. Men Silicon Valley borde inte kunna diktera hur dessa tekniker utvecklas och distribueras. Om de gör det kan det radikalt omforma hur vi identifierar oss som mänskliga.

Om författaren

Garfield Benjamin, postdoktorisk forskare, Institutionen för mediekonst och teknik, Solent University

Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.