Toivo Heinsoo och Roger Molin skriver på DN Debatt om en förväntad revolution med intåget av artificiell intelligens (AI) i stil med internet och smarta telefoner [1]. Jag delar tyvärr inte deras optimism om hur stort detta kommer att bli i närtid.

Det finns goda exempel på AI-verktyg som fungerar i vården [2]. Gemensamt för de flesta är två saker:

  • De utför bedömningar av till exempel hudens utseende eller röntgenbilder. Att datorer kan göra detta bättre än blotta ögat är inte svårt att tänka sig, varför detta ger mervärde.
  • Att en läkare använder verktyget tillräckligt ofta för att kunna lära sig det.

För rätt användare blir AI ett till verktyg att hantera, men det går inte att skala upp till stora patientgrupper, där många ska vara användare. En tanke som framförs av Heinsoo och Molin är att AI-system ska kunna surfa i patientdata och hitta relevanta saker. En dator klarar rimligen av detta, men för realtidsbruk i vardagen måste verktygen vara lättanvända och välintegrerade i andra IT-system, såsom journalsystem. De IT-system som jag jobbar med kräver dock fortfarande fax och kan inte ens sammanställa en relevant ordinationslista. Att de ska kunna integrera AI-lösningar för saker jag inte aktivt söker upp finns inte på kartan.

Heinsoo och Molin tror att allmänna AI-system, såsom Chat GPT, kan lösa vårduppgifter och hänvisar till två nyligen gjorda studier.

Dessa studier håller inte måttet.

I den ena fick en chattbot ge förslag till fem differentialdiagnoser på en akutmottagning baserat på läkarens sammanställda anteckningar. Ingen hänsyn togs till att de flesta diagnoser vid enklare sökorsaker är vanliga eller att en skicklig läkares anteckningar kommer att innehålla bättre värdeord än mindre skickliga. Hur ofta har inte en bakjour bett sin yngre kollega att komplettera anamnesen? Värdeord som »plötslig« och »hemihypestesi« gör det lätt att få med stroke som differentialdiagnos. Värre är det med »i går« och »domning«, vilket mycket väl kan vara det en yngre doktor först noterar.

I den andra studien kom man fram till att läkares svar på internetforum (när de rimligen inte är i tjänst) var sämre än en chattbots. Frågor på internetforum är inte att söka vård, och försök som gjorts på 1177 har hittills inte bådat gott [3]. Då jag jobbar ger jag korrekt (inte sannolik) information och lägger upp den pedagogiskt med ledning av patientens förkunskaper om sin sjukdom, inte i generiska fraser. Ska man jämföra en läkare och en chattbot ska det rimligen vara på jobbet, inte på fritiden.

Heinsoo och Molin drar till sist iväg rejält och tror på en framtid med AI-doktorer som alla ständigt har tillgång till och kan ens sjukdomshistorik. Chat GPT har visat sig ha förmågan att hitta på egna fakta [4]. Den doktor som Heinsoo och Molin tror på kommer att kunna hitta på fakta för att matcha din fråga, åtminstone som den ser ut i dag.

Finns det en värre sekretessmardröm? Låt oss bortse från sekretesshinder att skapa sådana AI-system [5]. Hur ska chattbotten ha tillgång till journaluppgifter och inte samtidigt vara kopplad till det företag som skapat den, det vill säga dela mina hälsodata med IT-företaget? Detta skiljer sig från de anonymiserade bilder som vi i vården länkar ihop med en patient.

Det finns inga garantier att vårdetiska principer följs av företag som i framtiden skapar AI-system där patienter ska ställa frågor med koppling till sina hälsodata. Affärsidén kan mycket väl bygga på att tjänsten är gratis, men att hälsoinformation säljs till tredjepartsaktörer. Jag tror inte att någon i vården vill se en sådan framtid.