Shutterstock/Hamara

Silicon Valley att röra sig snabbt och bryta saker i försvaret? 

av Elke Schwarz

Jag är en propagandist, jag kommer att förvränga sanningen, jag kommer bara att lägga fram min version av den om jag tror att det kommer att propagandera folk att tro det jag behöver att de ska tro.

Det här är inte ett ljud från ett särskilt sprudlande ögonblick i tv-succén Mad Men. Dessa ord var uttalade av Palmer Luckey, VD för Silicon Valleys hetaste militärteknologistartup. Luckeys företag, Anduril Industries, är specialiserat på artificiell intelligens-aktiverade system, inklusive autonoma vapensystem. Med en värdering på 14 miljarder USD är Anduril en av de älsklingar av startup-scenen för försvaret och dess nyligen framväxande ekosystem för riskkapital (VC) där stora löften, stora satsningar och en tendens till propaganda är en bas som är nödvändig för framgång.

Integreringen av artificiell intelligens (AI) i försvarsprogram, än mindre vapensystem, är fortfarande kontroversiell. UK Artificial Intelligence in Weapon Systems Committee har uppmanade försiktighet över upphandlingsprocesser för AI-aktiverade vapen, men ändå – som så ofta är fallet när det kommer till Silicon Valley-produkter – har utvecklingen, upphandlingen och utrullningen av AI-försvarsprogram accelererat kraftigt de senaste åren.

Anduril grundades först 2017 och har redan tilldelats flera kontrakt på flera miljoner dollar av Försvarsdepartementet i USA (DoD), såväl som Försvarsministeriet (MoD). Mot bakgrund av det pågående kriget mellan Ryssland och Ukraina, kriget i Gaza och ökande globala spänningar kan detta inte tyckas vara en överraskande utveckling.

In min senaste forskning När det gäller militär AI identifierade jag att en av de viktigaste drivkrafterna för den accelererade upphandlingen av militära startprodukter, såsom autonoma drönare och andra AI-aktiverade system, är inflödet av enorma summor riskkapitalpengar och inflytande. Dessa riskkapitalbolag behöver försvarsorganisationer för att anta teknikindustrins etos om hastighet och skala och riskkapitalvärldens aptit på risk och revolution. Detta gör dessa företag inte bara till finansiella aktörer utan också till politiska.

Min forskning, publicerad i Finans och samhälle, tyder på att denna trend mot att forma försvaret i bilden av Silicon Valley, motiverad av riskkapitalintressen, sannolikt kommer att bli mer uttalad och utbredd. Med detta i åtanke är det värt att titta närmare på dynamiken i spelet när riskkapital sätter ögonen på liv och död.

Den framväxande militära finanseringen

Både den militära AI-industrin och de globala försvarsutgifterna blomstrar. För närvarande uppskattningar, den globala militära AI-marknaden var värd 13.3 miljarder USD 2024, med en förväntad tillväxt till 35 miljarder USD under de kommande sju åren. Dessa siffror varierar beroende på vilka marknadsdatatjänster som konsulterats, men de har reviderats uppåt regelbundet under de senaste 12 månaderna. Globala försvarsbudgetar har också svällt mot bakgrund av pågående konflikter och en allmän förändring mot militarisering under de senaste 24 månaderna.

Globalt försvar spendera nådde en rekordnivå på drygt 2 biljoner US-dollar 2023. Med 877 miljarder US-dollar har USA stod för nästan 40 % av de globala försvarsutgifterna 2023 NATO-allians kommer att spendera 1.47 biljoner US$ 2024. Detta är stora, attraktiva siffror för stora teknik- och finansbolag med avsikter att få fotfäste på försvarsmarknaden.

Ocuco-landskapet Avsnittet Insikter är engagerad i hög kvalitet långformig journalistik. Våra redaktörer arbetar med akademiker från många olika bakgrunder som tar sig an ett brett spektrum av samhälleliga och vetenskapliga utmaningar.

Samtidigt börjar försvarsorganisationer spendera mer pengar på spjutspetsteknologier, inklusive, oundvikligen, AI. Ett Brookings Institute 2024 Rapport fann att försvarskontrakt för AI-relaterad teknik ökade i värde med nästan 1200 % under de 12 månaderna från augusti 2022 till augusti 2023.

För de flesta nya AI-produkter, civila eller på annat sätt, är någon form av riskkapitalfinansiering ofta inblandad, särskilt om AI-satsningen i fråga kan visa sig vara för riskabel för att finansieras genom banklån eller andra finansiella instrument. Riskkapital är villiga att ta satsningar på innovation som andra finansiärer skulle vara ovilliga eller oförmögna att ta.

Under de senaste två decennierna har denna typ av finansiering främst fokuserat på Silicon Valley-produkter för den civila marknaden, där dynamiken har möjliggjort extraordinära vinster för investerare. Men i takt med att försvarsmarknaden växer och möjligheterna till extraordinära riskkapitalavkastningar inom de kommersiella sfärerna avtar, ser de som har stora mängder kapital att investera en ny möjlighet till stora försvarsvinster inom sitt räckhåll.

Det är därför föga förvånande att riskkapitalinvesteringar i försvarsteknik har ökat under de senaste fem åren. Från 2019 till 2022 har USA:s riskkapitalfinansiering för militärteknologistartuper fördubblats, och sedan 2021 har försvarstekniksektorn sett en injektion på 130 miljarder USD i VC-pengar.

Riskkapitalinvesteringar är också på den högsta nivån någonsin för den europeiska försvarssektorn; privata VC-investeringar är projicerade att nå rekordstora 1 miljard USD, främst driven av amerikanska riskföretag. Det finns ett påtagligt surr i luften om möjligheterna för VC-stödda strävanden och möjligheten att omforma försvarslandskapet.

Riskkapital-militär-Silicon Valley-kopplingen

Riskkapital har alltid varit kopplat till militärsektorn på något sätt. I själva verket kan den nuvarande boomen inom riskkapitalförsvarsinvesteringar ses som en återgång till dess tidiga dagar. Ursprunget till riskkapital är vanligtvis spåras tillbaka till de amerikanska forsknings- och utvecklingsföretagen (ARDC) som grundades 1946, strax efter andra världskriget, där USA drevs av en seger som åtminstone delvis uppnåddes genom spjutspetsteknologi.

ARDC var ett av de första företagen som systematiskt skaffade kapital från institutionella investerare för att finansiera nystartade företag med hög potential men som var för riskabla för banklån. Med detta tillvägagångssätt var ARDC den första riskkapitalutrustningen som skapade investeringsportföljer som ofta förlitade sig på en eller två extraordinära framgångar för att kompensera de flesta företag som endast gjorde mycket blygsamma avkastningar eller faktiskt förluster. På så sätt var ARDC det första så kallade "unicorn"-företaget.

Unicorns är unga företag som får en värdering på 1 miljard US$ eller mer (tills nyligen ett ytterst sällsynt tillfälle för en start och något varje investerare eftertraktar i sin portfölj). Detta är kärnan i riskkapitalinvesteringar: det är riskkapital med potentiellt mycket höga belöningar.

Särskilt under de första dagarna, strax efter andra världskriget, gick många investeringar till att stödja startups som skulle handla med militär innovation och teknik. Detta ledde till olika analytiska instrument, högspänningsgeneratorer, strålningsdetekteringsteknik, såväl som tidiga minidatorföretag, som Digital Equipment Corporation.

Det digitala landskapet, som vi känner det idag, har sina rötter i militären. Innovationer inom kommunikationsteori var avsedda för militär missilteknologi på 1950-talet, AI:s farfäder arbetade nästan alla med militära projekt från mitten av århundradet och till och med internet uppstod från ett militärt projekt, då namnet Arpanet.

Många Silicon Valley-företag förblev intrasslade med militärsektorn under decennierna och, som antropologen Roberto Gonzales har skriven, nästan "alla dagens teknikjättar bär på lite DNA från försvarsindustrin och har en lång historia av att samarbeta med Pentagon". Så riskkapitalets DNA viks in i detta förhållande.

Men det är värt att betona att det traditionellt var de militära organisationernas och regeringarnas behov som till stor del dikterade takten, strukturen och processen för tekniska innovationer.

Nu sätts takten och fokuset för militär teknologi och innovation alltmer av en progressivt högljudd och kraftfull teknikstartupindustri och deras finansiärer som har släppt lös en mängd "Patriotisk huvudstad” initiativ, som t.ex Amerikansk dynamik; Den Special Competitive Studies Project, Startar om Demokratins Arsenal och Amerikas gränsfond. Dessa företag skapades av en handfull framstående företag och individer inom den nya försvarsteknologiska domänen för att forma försvars- och militära prioriteringar och göra bra avkastning samtidigt. Enhörningsföretag som stöds av stora mängder riskkapital växer i försvarsområdet, inklusive nya militärteknologiska enhörningar som Anduril Industries, Sköld AI, skydio, Skala AI och Palantíren (Palantir är tekniskt sett inte längre ett startup sedan det blev offentligt 2020, men det är fortfarande en del av en kohort av nya militära teknologier).

Detta är en ny utveckling. Under de två decennierna från mitten av 90-talet till 2014 fokuserade riskkapitalsektorn sina ansträngningar på ett blomstrande civilt tekniklandskap, där himlen var den ökända gränsen för avkastning från teknikstartups som Google, Microsoft, Facebook och PayPal.

Försvarsmarknaden ansågs däremot vara mogen och konsoliderad, med strikta förvärvsregler och bestämmelser och för små möjligheter till överdimensionerad avkastning på investeringar. För att ett statligt kontrakt skulle bli verklighet skulle det ofta ta många år. Försvaret dominerades också av en handfull nyckelaktörer i branschen – de så kallade primes som inkluderar Lockheed Martin, RTX Corporation, Northrop Grumman, Boeing, General Dynamics och BAE Systems.

Dessa premier delade upp lejonparten på försvarsmarknaden mellan sig och det verkade finnas små möjligheter för teknikstartups att få en fot innanför dörren utan större ansträngningar. Till exempel stämde företag som Space X och Palantir det amerikanska flygvapnet och den amerikanska armén 2014 för möjligheten att bjuda på vissa kontrakt. Att använda lagen för att bryta öppet försvar för militära startuper har sedan dess blivit mer utbrett.

Utöver dessa strukturella hinder för riskkapitalinvesteringar i försvarssektorn fanns det en större nominell moralisk kostnad förknippad med idén om att tjäna pengar på krig. Eftersom riskkapitalinvesterare ofta är donationer, stiftelser, försäkringsbolag, universitet och pensionsfonder, fanns det en yttre motvilja mot att ses som att investera i ”en försvarsportfölj” – eller med andra ord i dödsinstrument. europeiska riskkapitalinvesterare var särskilt försiktiga.

Den hastighet med vilken dessa bävan tycks ha avtagit på mindre än ett decennium är dock anmärkningsvärd, vilket antyder antingen att investerarna stöder riskkapitalföretag kommer från olika bakgrunder som kanske har mindre tvekan när det gäller att dra nytta av krigsverksamheten, eller att det alltid i första hand bara handlade om matematik snarare än moral.

Enhörningar och hyperväxt

Idag vill alla investera i en enhörning eftersom den har potential att skjuta i höjden i värderingen.

Men för att få en fot inom dörren med en oprövad produkt eller koncept kan vissa startups motiveras att göra stora, djärva påståenden om deras produkters revolutionerande, förändringsskapande karaktär. Och även när ett företag väl har säkrat finansiering, förblir etiken av överlöfte ofta inskriven för att upprätthålla framgång mot hypertillväxt.

I värsta fall görs överlöften i en sådan omfattning att det uppgår till brottsligt bedrägeri, som det var fallet med den ökända blodprovningsstartupen Theranos, som gick från att vara en av de mest spännande sjukvårdsstartupen, värderad till 10 miljarder USD på sin topp 2015, till en total byst på fyra korta år.

I Theranos-fallet hade företagets karismatiske grundare vilt överlovat teknikens kapacitet och hävdade att den skulle möjliggöra en hel rad tester som kunde göras från bara en liten droppe blod. Denna banbrytande teknik "skulle kunna revolutionera medicinen och rädda liv världen över".

Det var ett framtidsinriktat löfte – tekniken kunde inte göra vad som utlovats ännu – trots det hävdade företaget att det redan hade en fungerande testenhet, vilket visade sig vara en lögn. Theranos vek sig 2018 och den karismatiska grundaren, Elizabeth Holmes, gick i fängelse.

Säljer en fantasi

Det finns många andra, mindre dramatiska berättelser som utspelar sig på ett liknande, men inte bedrägligt sätt: företag som lovar att revolutionera sättet vi gör vardagliga saker på med banbrytande teknologi, som visar sig vara ohållbar, oanvändbar eller helt enkelt försvinner.

Men resultatet är att investerare förlorar pengar, och, ännu viktigare, att människor som har kommit att förlita sig på teknikens löfte kommer till skada.

I försvarssammanhang kretsar löftena om ny militär teknik kring försäljning kraftfull avskräckning, Av skydda demokratin, att kunna ha heltäckande, korrekta, kunskap i realtid, av en helt genomskinlig jordglob, och, först och främst av en ren, snabb och avgörande seger med smidig och enkel anslutning.

Detta kan i värsta fall fostra en fantasi om allvetande och allestädesnärvaro och i bästa fall väcker det en önskan om en omöjlig revolution i krigföring som är för attraktiv för att motstå och i slutändan drar in en allt bredare publik i dess spår. Dessa berättelser underskrivs ofta av en allmän hype om att en framtid med AI är oundviklig. Detta skapar en kraftfull berättelse som mytologiserar och värdesätter en teknik som kanske aldrig kommer att leverera det som utlovas. Det är en potent mix som ofta står emot mer nyktra röster som manar till försiktighet.

Påståendena från försvarets enhörningar kan ofta verka rimliga, men de är vanligtvis omöjliga att verifiera, eftersom de tar upp framtiden. Och ofta speglar den framtiden en vision som formats av fiktion och science-fiction, som alltid i viss mån är borta från verklighetens sociala och politiska utmaningar.

Denna frestelse att överutlova och mytologisera möjlig teknologi formar program som arbetar mot att realisera global transparens och global räckvidd i snabb takt. Programmet Joint-All-Domain Command and Control (JADC2) är ett sådant försök som initierats av Pentagon. Det syftar till att koppla alla domäner – land, luft, hav, rymd och cyber – till ett enda nätverk för "prediktiv analys" och "höghastighetsstrid".

För att göra programmet välsmakande för kongressen liknas JADC2 ofta vid ride-delning plattform Uber, som lovar sömlös interaktion mellan system och plattformar för snabba ingripanden. Detta återfokuserar uppmärksamheten på AI som en infrastrukturell nödvändighet för alla militära tillgångar och plattformar. Utan att utöka militär AI kommer denna vision att vara omöjlig. Det är här möjligheten för militära startups finns.

Två framstående militära teknikföretag är entreprenörer för JADC2 – Anduril och Palantíren. Båda företagen gör föga hemligheter av sina ambitioner att störa försvarssektorn, ta bort de nuvarande primörerna och skapa en monopoldel av marknaden för att säkra ökande vinster.

Palantir har sätta ögonen om "att bli det centrala operativsystemet för alla amerikanska försvarsprogram"; Anduril har deklarerat att det kommer att gå "efter allt som står på [försvarsdepartementets] lista” för att dominera i branschen. För båda företagen är detta kampen – kampen om tillväxt.

Som Andurils Luckey säger: “du måste slåss och vinna över flera områden”. (Han menar det i termer av företagsstrategi, inte faktiska slagfält). På samma sätt erkände vd och medgrundare av Palantir, Alex Karp, att han, för att bryta försvaret som en marknad vidöppen, är stolt över att "har släpat och sparkat och lockat och förödmjukat” olika lagstiftare, beslutsfattare och regering för att hjälpa till att nå detta mål. Rör dig snabbt och slå sönder saker.

Att göra en enhörning kräver en samlad ansträngning och en aggressiv hållning från dem som kommer att vinna mest ekonomiskt på denna domän. Detta görs bäst i allians med likasinnade andra. I det nuvarande riskkapitallandskapet för försvaret finns det en nära sammanblandning av grundare och finansiärer.

Peter Thiel är till exempel medgrundare av Palantir, han driver även Founders Fund VC-outfiten som har investeringar i bland annat Space X, Anduril och Scale AI. VC-företaget Andreessen Horowitz finansierar även SpaceX, Anduril, Shield AI och Skydio. Cheferna för dessa riskkapitalbolag har långvariga band med varandra. På samma sätt finns det interlacing mellan företag. Anduril, till exempel, startades av tidigare Palantir-anställda som tog sin erfarenhet från Palentir och tillämpade den på Anduril. Palmer Luckey, tidigare från Oculus Rift, installerades som dess karismatiska och frispråkiga VD.

Peter Thiel och Eric Schmidt (tidigare vd för Google och ordförande för USA:s nationella säkerhetskommission för artificiell intelligens) är investera i America's Frontier Fund och så vidare. Det finns ett tätt sammansvetsat och mycket väl sammankopplat nätverk av finansiärer och startups som alla arbetar för att dubblera det centrala drivande budskapet: försvarssektorn är i behov av störningar och det är vi som ska skaka om saker.

På en panel nyligen ger bevis till US Armed Services Committee fanns representanter för fem militära startup-företag. Varenda en av de fem var antingen finansierad av VC-företaget Andreessen Horowitz eller på annat sätt knuten till företaget.

Vid utfrågningen av den amerikanska försvarskommittén, Palantirs tekniska chef, Shyam Sankar, gav bevis förespråkar för "mer galen" och för att "låta kaos råda" i den militära förvärvs- och upphandlingsprocessen, så att de nödvändiga incitamenten kan främjas för innovation genom konkurrens mellan avdelningarna.

Regulatoriska begränsningar, tycker han, "tvingar dig till förbiseende" och han "skulle gärna acceptera fler misslyckanden om det innebar att vi hade mer katastrofala framgångar". Vilken typ av framgång detta kan vara, eller vad konsekvenserna är för ett misslyckande, förblir olöst men det är tydligt att Palantirs CTO talar med en riskkapitallogik i åtanke. Och enligt ett nyligen USA Defence Innovation Board rapport, verkar det som att regeringen är redo att ta på sig mer risker och ge toppskydd för sådana "mavericks".

Berättelsen om "kris".

Förutom att odla startups med hög potential, finns det ett antal sätt att anpassa försvarssektorn till behoven hos Silicon Valley-entreprenörer och deras VC-stödjare. Kraften i berättelser räcker långt även här. Riskkapitalförvaltare och deras startups skriver ofta högprofilerade op-eds där dåligt tillstånd för (USA) försvar beklagas, där behovet av accelererad innovation betonas, och där möjligheten att USA "mycket sannolikt" kan bli indragen i "ett trefrontskrig med Kina, Ryssland och Iran" är trollade fram. Kort sagt, en brådskande berättelse är spunnen som hjälper till att värdesätta de företag som anses ta itu med den överhängande krisen.

En andra pelare i den strukturella översynen av försvaret är att anställa ett intrikat nätverk av tidigare statligt anställda som fungerar antingen som lobbyister eller som rådgivare med nära kopplingar till regeringen.

Tidigare republikansk kongressledamot Mike Gallagherblev till exempel Palantirs chef för försvarsoperationer i augusti 2024 och tidigare nationell säkerhetsrådgivare HR McMaster är nu Senior Advisor till Shield Capital. Det finns många fler sådana"svängdörr” stunder där trovärdiga experter ger sin auktoritet till de nya startupen. Den militära tekniska startscenen, som de flesta Silicon Valley-skapelser, har en viss anseendecache och pengarna är också attraktiva.

Anduril, efter att ha lärt sig av Palantir, anställde en massa lobbyister i första veckan, spendera mer pengar på "advokater och lobbyister än ingenjörer” som Luckey noterade i en nyligen intervju med The Economist.

Med detta antar Anduril ett relativt traditionellt sätt att forma försvarslandskapet, vilket också används av försvarsentreprenörer som har, som Anduril erkänner i en 2022 blogginlägg, ett incitament "att spendera mycket på team av advokater och lobbyister för att utforma programkrav i linje med företagets befintliga teknik".

Anduril, och dess stödjare, gör nu samma sak, skräddarsydda för sin egen svit av teknologier. Advokaterna är ofta anställda inte bara för att övervaka fusioner, förvärv och partnerskap, utan också som ett sätt att använda lagen som ett instrument för att tvinga fram reformer.

Det primära målet med SpaceX- och Palantir-processerna mot den amerikanska armén och flygvapnet som jag nämnde tidigare var inte nödvändigtvis att vinna (Space X-processen var inte framgångsrik, var Palantirs), utan att bända utrymme för översyn av förvärv och båda rättegångarna uppnådde just det .

En strategi att skapa en känsla av brådska, fördubbla med lobbyister och skapa den strukturella möjligheten för en försvarsöversyn är nu på god väg. För att vara tydlig, så hävdar jag inte att försvarssektorn inte skulle gynnas av modernisering eller omstrukturering. Jag hävdar inte heller att alla militära startprodukter är irrelevanta eller ohållbara. Jag försöker inte heller ställa primörerna mot den nya riskkapitaldynamiken och deras fokus på tillväxt.

Men vad jag tycker är värt att undersöka är dynamiken som spelar med dessa nya företag och deras implicita prioriteringar och intressen, eftersom de kommer att forma praxis och prioriteringar. Och där det förekommer störningar på jobbet kan man förvänta sig en viss grad av brott. Och detta får en annan ton i frågor om liv och död.

Avbrott skräp

Störningen i försvarssektorn är på god väg och ansträngningarna att forma den i Silicon Valleys bild har burit frukt de senaste åren med en rad konkreta resultat. JADC2-programmet som nämnts tidigare är ett. Andra är uppenbara i program som det amerikanska försvarsdepartementets Replikatorinitiativ, som innehåller målen, tidslinjerna och produkterna som Silicon Valley militära startups har att erbjuda.

Hög nivå försvarstjänstemän upprepar riskkapitalindustrins diskussionsämnen och olika förvärvsprogram har anpassat sig för att tillgodose hastigheten och skalan som behövs. Dessa företag har politikers öra och kraven på en kvasi-andlig "Försvarsreformationen” hittar en växande publik.

Så vilka är de möjliga konsekvenserna?

När Uber störde den privata transportbranschen lämnade den i dess kölvatten en mängd urholkad arbetslagstiftning, arbetstagares rättigheter och hälsovårdsbestämmelser för förare. När AirBnB skakade om boendebranschen resulterade det i höjda hyrespriser på populära turistmål. När man försöker skapa ett monopol blir det alltid sociala och politiska konsekvenser. Ofta är dessa konsekvenser förutsebara, ibland inte.

Att störa försvarsförvärvsprocessen sker som ett minimum på bekostnad av ökad tillsyn över förvärvsprocessen. Tekniksektorn är inte känd för sin uppskattning av regulatoriska gränser. Snarare tvärtom. Några av de mest framstående finansiärerna av det nya militära startlandskapet är mest högljudd emot något typ av reglering.

VC-tungviktaren Marc Andreessen, till exempel, skrev den berömda ett Techno-Optimist-manifest där han benämner riskhantering, förtroende och säkerhetsåtgärder och försiktighetsprinciperna som "fienden".

Mindre reglering innebär mindre tillsyn och ansvarsskyldighet, inte bara i utgifter utan också i hur och var vissa tekniker används och med vilka effekter. Så mycket är uppenbart.

Men det finns många andra mycket rimliga konsekvenser som vi kan förutse med det accelererade förvärvet och utbyggnaden av militär teknik för strid. En är omfokuseringen på risk och experiment.

Den nuvarande skörden av militära uppstartsteknologier, som AI-aktiverade drönare och AI-beslutsstödsystem, testas och förbättras live och under pågående konflikter, som i Rysslands Ukraina-krig, men även i Gaza. Detta är en form av prototyping som blir allt mer framträdande och som behöver ett aktivt slagfält för effektiv testning, iteration och optimering av teknologierna.

Detta betyder också att det är möjligt att tekniker kommer att användas som inte är lämpliga för ändamålet, bara för att testa dem och förbättras allt eftersom. Det normaliserar, om inte främjar, lanseringen och försäljningen av felaktiga och möjligen otillräckliga AI-produkter, vilket oundvikligen kommer att skada oskyldiga civila som fångas i konfliktens trådkors.

Vi kan observera detta just nu med hjälp av teknikföretag att sälja sina stora språkmodeller till militära organisationer. Scale AI, till exempel, har slagit sig ihop med Meta för att sälja en LLM-produkt, Försvarslama, för försvarsändamål. Företaget säger att mänskligt engagemang är "absolut nödvändigt" för systemet.

Men med tanke på välkänt faktum att LLM:er är benägna att drabbas av så kallade hallucinationer, är chanserna att sådana tekniker kommer att fungera precis som annonseras små för ett sammanhang så komplext och dynamiskt som krigföring. Detta kan orsaka skada för dem som fångas mitt i detta experiment, finjustering och livetestning. Det är ett centralt bekymmer att tekniken kanske inte lämpar sig för det oväntade, för de mindre kalkylerbara eller mindre förutsebara elementen i krigföring. Det inkluderar potentiella framväxande terrorhot eller åtgärder från de stater som ofta anses som irrationella; som till exempel Nordkorea.

Andurils VD, Luckey, erkände så mycket i intervjun jag inledde med. Han erkände att logiken som hans vapen är byggda på faller sönder med potentiella fiender som undviker spelets teoretiska tillvägagångssätt som mycket av AI-logiken för försvar vilar på: "Det är väldigt svårt att engagera sig i spelteori med människor som utövar icke-spelet. teori optimal strategi...Det är som att spela monopol med personen som kommer att hoppa av och ge alla sina pengar till någon annan.” En allvarlig begränsning för något så genomsyrat av slumpen som krigföring.

Det finns också andra och tredje ordningens effekter som härrör från denna förändring mot riskkapitallogik. Genom att frammana ett överhängande hot kan det bredare globala risk- och säkerhetslandskapet förändras; genom att prioritera vapenteknik kan finansieringen av andra sätt att hantera konflikter minskas, genom att ägna allt större belopp till tekniker som förblir oprövade och som kanske inte har beständighet, kan betydande summor pengar som skulle fördelas bättre någon annanstans gå till spillo.

Men det här är ett land av låtsas och enhörningar, där sådana överväganden är lika spekulativa som de mycket hypade löftena om AI-vapen som demokratins försvarare.

I Silicon Valley innebär mottot "flytta snabbt och bryt saker" att problem som uppstår i utbyggnaden av tekniken alltid kan lösas och lösas senare. I försvars- och krigsvärlden kan skadan som orsakas av denna typ av risktagande inte så lätt återställas.

The Conversation satte punkterna som tas upp i den här artikeln till de nämnda teknik- och riskkapitalföretagen. De svarade inte på vår begäran om kommentarer.

Elke Schwarz, Läsare i politisk teori, Queen Mary University of London

Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.

Relaterade böcker:

On Tyranni: Twenty Lessons from the Twentieth Century

av Timothy Snyder

Den här boken ger lärdomar från historien för att bevara och försvara demokrati, inklusive betydelsen av institutioner, enskilda medborgares roll och farorna med auktoritärism.

Klicka för mer info eller för att beställa

Vår tid är nu: Makt, syfte och kampen för ett rättvist Amerika

av Stacey Abrams

Författaren, en politiker och aktivist, delar sin vision för en mer inkluderande och rättvis demokrati och erbjuder praktiska strategier för politiskt engagemang och väljarmobilisering.

Klicka för mer info eller för att beställa

Hur demokratier dör

av Steven Levitsky och Daniel Ziblatt

Den här boken undersöker varningssignalerna och orsakerna till demokratiskt sammanbrott, och bygger på fallstudier från hela världen för att ge insikter om hur man kan skydda demokratin.

Klicka för mer info eller för att beställa

The People, No: A Brief History of Anti-Populism

av Thomas Frank

Författaren ger en historia om populistiska rörelser i USA och kritiserar den "antipopulistiska" ideologi som han hävdar har kvävt demokratiska reformer och framsteg.

Klicka för mer info eller för att beställa

Demokrati i en bok eller mindre: hur det fungerar, varför det inte gör det och varför det är lättare än du tror att fixa det

av David Litt

Den här boken ger en översikt över demokratin, inklusive dess styrkor och svagheter, och föreslår reformer för att göra systemet mer lyhört och ansvarsfullt.

Klicka för mer info eller för att beställa

Sammanfattning av artikel:

Silicon Valleys riskkapitalister driver på militär AI-innovation samtidigt som de utökar deras störande etos till demokratiska processer. Försvarsindustrin, som länge varit motståndskraftig mot förändring, är nu utlämnad till riskstödda startups som lovar effektivitet men riskerar kaos. Samma strävan efter disruption har underblåst valinblandning, utnyttjande av svag regulatorisk tillsyn och prioriterat vinst framför allmännytta. Med militära system som alltmer formas av oprövad AI och demokrati undergrävt av företagens ambitioner, har insatserna aldrig varit högre.

hashtaggar:
#SiliconValley #ElectionInterference #MilitaryAI #TechRisks #DemocracyUnder Threat