Åsikt: Chatbottar blir människors primära läkare – imponerande, men riskabelt

Vi hoppar från Dr. Google till Dr. Chatbot ganska snabbt. I augusti rapporterade OpenAI över 200 miljoner aktiva användare varje vecka, och även om användarnas mest populära frågor handlar om skrivande och kodning, använder vissa dem för mer personliga ämnen, från dejtingråd till hudvårdsrutiner och diagnoser av sjukdomar.

En nyligen studie visade att AI chatbotar överträffade läkare när det gäller diagnostisk noggrannhet. Men, kan vi verkligen lita på AI som våra läkare?

Precis som antalet ämnen som människor söker information om har ökat, har också oro för risker och faror med att förlita sig på AI inom medicinområdet väckt larm – inklusive de som involverar livs- eller dödsfrågor.

Dr. Chatbot blir viral för sina “mirakler”

För några dagar sedan, blev en kvinna viral på Reddit eftersom hon delade hur ChatGPT hjälpte henne att förbättra hennes hud bättre än en dermatolog med imponerande före-och-efter-bilder.

En 37-årig kaukasisk kvinna använde ChatGPT för att skapa en skräddarsydd hudvårdsrutin för att behandla sina slutna komedoner, och det hjälpte verkligen henne! pic.twitter.com/vwkm13G2Hs

— AshutoshShrivastava (@ai_for_success) 11 november, 2024

”Jag gav sedan chatGPT en prompt att agera som en professionell hudläkare och hjälpa mig att skapa en hudvårdsrutin som skulle hjälpa till att bli av med mina slutna komedoner, akne, minska porer och strama åt huden, samt reducera fina linjer. Jag gav den också bilder på min hud vid den tiden”, skrev hon och förklarade sedan att hon bad chatboten att beakta alla produkter hon redan ägde och föreslå nya inom ramen för en hudvårdsrutin.

Efter två månader var Redditanvändaren förvånad över förbättringarna i hennes hud.

Det är inte ett isolerat fall. Många användare har avslöjat hur chatbottar har kunnat förstå och förklara röntgenbilder och blodprov bättre än deras egna läkare. Även läkare har varit förvånade över bild- och dataanalyser tolkade av artificiell intelligens.

Varför Använder Människor Chatbottar Som Läkare?

AI kan förvandlas till den professionella du behöver – en allmänläkare, en terapeut, en hudläkare, en nutritionist, en radiolog – när du behöver det, och det finns många anledningar till varför människor väljer AI framför människor.

Specialister kan vara dyra

Kvinnan med hudproblemet avslöjade att hon spenderade ungefär 400 dollar på att köpa de produkter som chatboten föreslog.

”Det var en ganska stor investering, men när jag tänker på vad en konsultation med en hudläkare skulle ha kostat är detta inte ens dåligt,” skrev hon.

Enligt BetterCare, måste en patient utan sjukförsäkring i USA 2024 betala runt $150 för ett besök hos en hudläkare och upp till $1000 för behandling. Och den genomsnittliga kostnaden för en psykoterapisession—en annan populär användning för AI-verktyg—varierar från $100 till $200 per session, enligt Forbes Health.

AI-chatbotar är billigare alternativ och kan ses som det enda valet, särskilt för människor i lägre inkomstklasser.

Naturligtvis uppstår en annan fråga: Om något går fel, är det verkligen en kostnadsbesparande åtgärd?

Snabbare och smidigare

Jag fick nyligen ett utslag på min arm. Trots att jag såg den där kvinnans mirakel-inlägg om huden, föredrog jag att konsultera en hudläkare i Spanien. Det tidigaste tillgängliga mötet var om tre månader, även med privat sjukförsäkring. Jag har tur att det verkar vara bara torrhet, att det inte stör mig, och att det förhoppningsvis kommer att försvinna innan läkaren kan se mig.

Medicinska vårdtidtabeller beror på staden och patientens försäkringsplan. Att få se specialister och till och med husläkare har dock blivit ett tålamodsprov i många delar av världen.

Chatbotar är inte bara bokstavligen inom räckhåll för våra händer, utan kan analysera våra frågor och svara inom några sekunder.

Mindre pinsamt

Jag har en läkarvän som jag kan kontakta när jag behöver medicinsk rådgivning, men det faktum att hon är min vän gör det ibland pinsamt. Innan jag skickar ett meddelande till henne frågar jag alltid mig själv: Har jag hört av mig till henne nyligen? Hon är en fantastisk människa och en utmärkt professionell, och jag är säker på att hon aldrig kommer att sluta svara på mina medicinska frågor. Men, från människa till människa, kan jag inte låta bli att bry mig om hennes känslor också.

En av fördelarna med artificiell intelligens är dess egna artificiella tillstånd. Den har inte känslor eller en dålig dag, den kommer inte att döma dig eller säga till dig ”Sluta vara så hypokondrisk” (inte för att min vän någonsin har sagt det till mig) eftersom de är tränade att vara artiga och svara på alla våra bekymmer med all den information vi vill ha. Det är en del av vad som gör tekniken beroendeframkallande, och förmodligen varför många föredrar att ställa obekväma frågor i ”privatlivet” på sina smartphones.

Riskerna Och Farorna Med Att Förlita Sig På Chattbotar

Allt låter coolt och roligt tills vi tar oss tid att tänka på riskerna och utmaningarna som AI och mänskligheten står inför.

Fel prompt, Fel stavning

I den studien där AI överträffade läkare, drogs en viktig slutsats: gruppen av läkare som tilläts använda AI som en allierad för diagnoserna presterade inte märkbart bättre än de som inte tilläts använda den. Varför? Tja, en del av problemet var att de inte visste hur man skriver rätt uppmaningar för att få ut det mesta av AI.

“De behandlade det som en sökmotor för riktade frågor: ’Är cirros en riskfaktor för cancer? Vilka är möjliga diagnoser för ögonsmärta?’,” sade Dr. Jonathan H. Chen, en av författarna till studien, till New York Times.

Detta är ett av problemen som många användare och AI-teknologier också står inför. Chatbots är bra på diagnoser, men många symtom behöver analyseras individuellt på ett personligt sätt. Vad händer om en person misslyckas med att ge rätt kontext till chatboten? Eller glömmer att inkludera viktiga detaljer eller förhållanden som en riktig läkare framför en patient inte skulle missa?

Osäkerhet och hallucinationer

Chatbots är professionella allvetare, och ibland säger de fel saker med mycket självförtroende. Och vi går på det. Och användare som förlitar sig på tekniken dagligen litar på den mer och mer.

Det är svårt att glömma den där gången—i maj—när Google Gemini föreslog att användare skulle lägga till ”cirka ⅛ kopp icke-giftigt lim till såsen för att göra den mer kladdig” till en pizza.

Det var roligt eftersom vi omedelbart kunde upptäcka hallucinationen—det fina namnet för när AI ger absurda svar. Men vad händer om det handlar om ett mer komplext ämne, vad händer om personen som läser AI-svaret är rädd, ensam och orolig för sin hälsa?

Även om AI blir bättre månad efter månad är möjligheten till ett fel fortfarande där.

Vem är att skylla om något går fel?

Den etiska debatten är en het fråga just nu. Om chattboten ger en felaktig diagnos eller dåliga råd, vem är det som bär skulden? Utvecklarna, modellen, AI-företaget, de källor som tränade den modellen?

Ett tragiskt fall väckte oro för några veckor sedan när en amerikansk mamma skyllde på AI för döden av hennes 14-åriga son och stämde uppstartsföretaget Character.ai—en plattform för att skapa AI-karaktärer. Tonåringen led av depression och blev besatt av tekniken. Hans avatar, Daenerys Targaryen, diskuterade med honom en plan för att ta sitt liv och uppmuntrade honom till och med att göra det.

Medan AI har betraktats av World Economic Forum som ett kraftfullt verktyg för att lindra psykiska hälsokriser över hela världen och minska den ökande andelen ångest- och depressionsfall, kan det också vara farligt, särskilt för barn.

Gör Det ”På Egen Risk”

Medan det fortfarande behöver förbättras, tycker jag att AI har stor potential att minska väntetiderna inom hälso- och sjukvården – både för specialistbesök och akutvårdsrum – för att påskynda vetenskapliga framsteg, och för att stödja läkare, särskilt de som överväldigas av överdrivna arbetsbelastningar och låga löner, vilket ofta är fallet i Latinamerikanska länder, genom att hjälpa patienter med grundläggande frågor hemifrån.

Det kan också hjälpa till att överbrygga skillnader i tillgången till hälso- och sjukvård mellan olika sociala klasser, och banar väg för en demokratisering av medicinen som aldrig tidigare. Allt detta är nu inom vår räckvidd, bara en fråga bort för alla som har tillgång till en smartphone.

Det är dock avgörande att förstå att vi fortfarande är i början och vi måste skydda den mest sårbara befolkningen. Den som väljer att använda Dr. Chatbot för att förbättra sin hälsa idag måste göra det med en förståelse för det finstilta i villkoren och bestämmelserna, med kritiskt tänkande, och med medvetenheten om att – för tillfället – tar de på sig ansvaret för de involverade riskerna.