Getty Images

Artificiell intelligens (AI) går snabbt och kommer att bli ett viktigt stödverktyg inom den kliniska vården. Forskning tyder på att AI-algoritmer kan exakt upptäcka melanom och förutsäga framtida bröstcancer.

Men innan AI kan integreras i rutinmässig klinisk användning måste vi ta itu med utmaningen med algoritmisk bias. AI-algoritmer kan ha inneboende fördomar som kan leda till diskriminering och integritetsproblem. AI-system kan också fatta beslut utan den nödvändiga tillsynen eller mänskliga input.

 Ett exempel på de potentiellt skadliga effekterna av AI kommer från en internationellt projekt som syftar till att använda AI för att rädda liv genom att utveckla banbrytande medicinska behandlingar. I ett experiment vände teamet om sin "bra" AI-modell för att skapa alternativ för en ny AI-modell att göra "skada".

På mindre än sex timmars träning genererade den omvända AI-algoritmen tiotusentals potentiella kemiska krigföringsmedel, med många farligare än nuvarande krigföringsmedel. Detta är ett extremt exempel på kemiska föreningar, men det fungerar som en väckarklocka för att utvärdera AI:s kända och tänkbart okända etiska konsekvenser.

AI i klinisk vård

Inom medicinen sysslar vi med människors mest privata data och ofta livsavgörande beslut. Robusta etiska ramverk för AI är absolut nödvändigt.

Smakämnen Australiensiskt epilepsiprojekt syftar till att förbättra människors liv och göra klinisk vård mer allmänt tillgänglig. Baserat på avancerad hjärnavbildning, genetisk och kognitiv information från tusentals personer med epilepsi, planerar vi att använda AI för att svara på för närvarande obesvarade frågor.

Kommer denna persons anfall att fortsätta? Vilken medicin är mest effektiv? Är hjärnkirurgi ett hållbart behandlingsalternativ? Detta är grundläggande frågor som modern medicin kämpar för att ta itu med.

Som AI-ledare för det här projektet är min främsta oro att AI rör sig snabbt och att regulatorisk tillsyn är minimal. Dessa frågor är anledningen till att vi nyligen etablerade en etiska ramverk för att använda AI som ett kliniskt stödverktyg. Detta ramverk syftar till att säkerställa att vår AI-teknik är öppen, säker och pålitlig, samtidigt som den främjar inkludering och rättvisa i klinisk vård.

Så hur implementerar vi AI-etik i medicin för att minska fördomar och behålla kontrollen över algoritmer? Den datavetenskapliga principen "skräp in, skräp ut" gäller för AI. Anta att vi samlar in partisk data från små prover. Våra AI-algoritmer kommer sannolikt att vara partiska och inte replikerbara i en annan klinisk miljö.

Exempel på fördomar är inte svåra att hitta i samtida AI-modeller. Populära stora språkmodeller (ChatGPT till exempel) och latenta diffusionsmodeller (DALL-E och Stable Diffusion) visar hur uttryckliga fördomar vad gäller kön, etnicitet och socioekonomisk status kan förekomma.

Forskare fann att enkla användarmeddelanden genererar bilder som vidmakthåller etniska, könsrelaterade och klassstereotyper. Till exempel en uppmaning till en läkare genererar det mesta bilder på manliga läkare, vilket är oförenligt med verkligheten då ungefär hälften av alla läkare i OECD-länderna är kvinnor.

Säker implementering av medicinsk AI

Lösningen för att förhindra partiskhet och diskriminering är inte trivial. Möjliggörande av jämställdhet i hälsa och främjande av inklusivitet i kliniska studier är sannolikt bland de primära lösningar att bekämpa fördomar inom medicinsk AI.

Uppmuntrande nog föreslog den amerikanska Food and Drug Administration nyligen göra mångfald obligatoriskt i kliniska prövningar. Detta förslag representerar ett steg mot mindre partiska och samhällsbaserade kliniska studier.

Ett annat hinder för framsteg är begränsade forskningsanslag. AI-algoritmer kräver vanligtvis stora mängder data, vilket kan vara dyrt. Det är avgörande att etablera förbättrade finansieringsmekanismer som ger forskare de nödvändiga resurserna för att samla in kliniskt relevanta data som är lämpliga för AI-tillämpningar.

Vi hävdar också att vi alltid bör känna till AI-algoritmernas inre funktioner och förstå hur de når sina slutsatser och rekommendationer. Detta koncept kallas ofta för "förklarbarhet" i AI. Det relaterar till tanken att människor och maskiner måste samarbeta för optimala resultat.

Vi föredrar att se implementeringen av förutsägelser i modeller som "förstärkt" snarare än "artificiell" intelligens - algoritmer bör vara en del av processen och läkarkåren måste behålla kontrollen över beslutsfattandet.

Förutom att uppmuntra användningen av förklarande algoritmer stödjer vi transparent och öppen vetenskap. Forskare bör publicera detaljer om AI-modeller och deras metodik för att förbättra transparens och reproducerbarhet.

Vad behöver vi i Aotearoa Nya Zeeland för att säkerställa en säker implementering av AI i medicinsk vård? AI-etiska frågor leds i första hand av experter inom området. Däremot riktade AI-regleringar, såsom EU-baserade Artificiell intelligenslag har föreslagits, med hänsyn till dessa etiska överväganden.

Den europeiska AI-lagen välkomnas och kommer att skydda människor som arbetar inom "säker AI". Den brittiska regeringen släppte nyligen sina proaktivt förhållningssätt till AI-reglering, som fungerar som en plan för andra statliga svar på AI-säkerhet.

I Aotearoa argumenterar vi för att inta en proaktiv snarare än reaktiv hållning till AI-säkerhet. Det kommer att upprätta ett etiskt ramverk för användning av AI inom klinisk vård och andra områden, vilket ger tolkningsbar, säker och opartisk AI. Följaktligen kommer vårt förtroende att växa att denna kraftfulla teknik gynnar samhället samtidigt som den skyddar det från skada.

Om författaren

Mangor Pedersen, docent i psykologi och neurovetenskap, Auckland tekniska högskola

Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.

Relaterade böcker:

Kroppen håller poängen: Hjärnans själ och kropp i läkningen av trauma

av Bessel van der Kolk

Den här boken utforskar sambanden mellan trauma och fysisk och mental hälsa, och erbjuder insikter och strategier för läkning och återhämtning.

Klicka för mer info eller för att beställa

Breath: The New Science of a Lost Art

av James Nestor

Den här boken utforskar vetenskapen och praktiken av andning, och erbjuder insikter och tekniker för att förbättra fysisk och mental hälsa.

Klicka för mer info eller för att beställa

Växtparadoxen: de dolda farorna i "hälsosam" mat som orsakar sjukdomar och viktökning

av Steven R. Gundry

Den här boken utforskar kopplingarna mellan kost, hälsa och sjukdomar, och erbjuder insikter och strategier för att förbättra övergripande hälsa och välbefinnande.

Klicka för mer info eller för att beställa

Immunitetskoden: Det nya paradigmet för verklig hälsa och radikal anti-aging

av Joel Greene

Den här boken erbjuder ett nytt perspektiv på hälsa och immunitet, som bygger på principer för epigenetik och erbjuder insikter och strategier för att optimera hälsa och åldrande.

Klicka för mer info eller för att beställa

Den kompletta guiden till fasta: läka din kropp genom intermittent, varannan dag och förlängd fasta

av Dr Jason Fung och Jimmy Moore

Den här boken utforskar vetenskapen och praktiken av fasta och erbjuder insikter och strategier för att förbättra övergripande hälsa och välbefinnande.

Klicka för mer info eller för att beställa