AI i sjukvården är ett hett ämne. Det beskrivs som ett viktigt verktyg i en alltmer pressad vård, rentav en räddare som både kan underlätta läkarens arbete och skräddarsy vården för patienterna.

Men det finns också en rad etiska och samhälleliga utmaningar såsom patientsäkerhet, ansvar, kvalitetssäkring och inbyggda värderingar. det är en del av de frågor Statens medicinsk-etiska råd, Smer, lyfter i en ny skrift.

– Vi vill bidra till en bred etisk diskussion – nationellt, regionalt och lokalt, säger Kenneth Johansson, ordförande i Smer.

Det kan handla om vem som har det juridiska ansvaret vid en behandlingsrekommendation, hur ska man garantera patientlagens krav på vetenskap och beprövad erfarenhet, och hur patientens möjlighet att välja behandlingsalternativ beaktas.

– Det finns en kunskapsbrist och osäkerhet. Det bromsar utvecklingen av AI. Därför tycker vi det är så viktigt att börja i rätt ända och få till en bred diskussion.

Ett problemområde inom patientsäkerheten är exempelvis kompetensförlust om vården förlitar sig allt för mycket på AI-systemen och lagrar kollektivt medicinskt vetande där, i stället för hos sig själva. »Det kan leda till patientsäkerhetsrisker om systemen skulle fallera«, skriver Smer.

Angränsande är risken för »automation bias«. Det skulle kunna inträffa om personalen litar allt för mycket på automatiserade bedömningssystem och »slutar leta efter evidens som bekräftar eller motsäger resultaten«.

När det gäller frågor om rättvisa och diskriminering, ser Smer en risk för vård som är efterfrågestyrd i stället för behovsstyrd. Det kan till exempel handla om patienter som söker vård för symtom som en hälsoapp upptäckt, vilket skulle kunna leda till att patienter med större behov trängs undan – det uppstår en ojämlikhet mellan patienter som använder sådana appar och de som inte gör det.

Kenneth Johansson vill inte rangordna eller prioritera bland de många olika aspekterna Smer lyfter. Målet är att få till en bred diskussion. Skriften vänder sig till professionen och allmänheten i stort, men han hoppas också att politiker och andra beslutsfattare lyfter ämnet på agendan.

– Utöver myndigheter och professionen har ju politiken på olika nivåer ett stort ansvar. Man ska inte fatta politiska beslut innan man tänkt igenom frågeställningarna. Så vi hoppas på nationella beslut och att Sveriges Kommuner och regioner ska fördjupa arbetet kring detta.

Är det något du saknar?

– Ja, jag saknar den etiska diskussionen. Vi vill att man inte ska fuska med den utan tänka efter före.

Skriften »Kort om artificiell intelligens i hälso- och sjukvården« finns på Smers webbplats.

 

Läs även:

Så vanligt är det med AI i sjukvården

AI i sjukvården: »Viktigt att ta fram en etisk plattform«

Första patienterna på Danderyds sjukhus bedömda med AI

Svenskar skeptiska till AI i vården

»Kunskap om AI en vit fläck inom läkarprofessionen«

Osäkerhet kring molntjänster bromsar IT-utveckling i vården

Smart datorprogram prickade snabbt rätt genetiskt syndrom

AI hjälper läkare leta frakturer i ny pilotstudie