Den nyligen släppta boken samlar erfarenheter och tankar från en rad områden, såsom utbildning, juridik och sjukvård. Den övergripande frågan är vad som händer i samhället när algoritmer ingår i offentliga beslut om människors liv och hälsa.
Som den enda författaren i antologin som har vårdbakgrund, har Nasim Farrokhnia skrivit kapitlet »Algoritmer i vården: hot eller möjlighet för profession och patient?«. Hon är ordförande i E-hälsoläkarföreningen och hälso- och sjukvårdschef i Microsofts Västeuropa-team.
– Min ledstjärna har varit att inte ha så mycket egna åsikter eller tyckanden. Jag ville inte skriva något som inte finns beforskat, säger hon.
Hur gick det till när du valde fokus på ditt kapitel?
– Jag var väldigt noga med att försöka att förklara varför ska man ha teknik i vård. Sedan vet jag att det behövs argument – särskilt för akademiskt skolade läkare, som dessutom är ett legitimerat yrke – som mer övertygande kan svara på frågan »varför«. Därav alla rapporter, vetenskapliga artiklar och så vidare.
I kapitlet pratar Nasim Farrokhnia exempelvis om AI inom diagnostik, behandling och administration. Hon beskriver bland annat att det finns ett flertal AI-modeller som kan hjälpa läkare inom cancerdiagnostik och som minskat arbetsbelastningen. Samtidigt finns ett huvudbry när det gäller ansvarsfrågan vid assisterat beslutsfattande.
Är det någon särskild aspekt du tycker är extra viktig att hålla ögonen på när det gäller utvecklingen i Sverige?
– Jag tänker på två vitt skilda aspekter. Det ena är den geopolitiska situationen, den oro vi befinner oss i med krig i närområdet, och där cyberattacker har ökat sedan Sveriges NATO-inträde, säger hon och tillägger att världsläget också gjort att Ukraina och Polen kopierat känsliga vårddata till molnet för att inte riskera att de gås om intet.
Den andra aspekten handlar om ansvarsfull AI. En sak forskare lätt ställs inför, är bias. Det gäller att man exempelvis förstår varifrån data kommer och om AI-systemet kan ha – vad man kanske kan kalla – förutfattade meningar.
– Vi behöver engagera oss mer. Det går inte bara att lita på att algoritmen är bra. Hur är den utvecklad? Hur skalas den? Etiken är väldigt viktig, säger Nasim Farrokhnia.
Finns det något nytt område, som folk kanske inte tänker på, där AI kan få en roll framöver?
– I så fall tror jag på ovanliga sjukdomar, fall som har förbryllat oss.
Hon berättar om »en guru« på medicinkliniken i Uppsala, som höll i »knäckronder« med presentationer av case som förbryllat läkarna.
– Jag ser att fler och fler sådana här knäckfall kan bli lösta, säger Nasim Farrokhnia, och fortsätter:
– Sedan tror jag att chattbottar kommer märkas mer och mer för doktorer. Så mer »keyboard liberation«. Jag kallar det hygienfaktorer – det måste in i våra doktorers och sjuksköterskors vardag, till exempel med röstkommando.
»AI och makten över besluten« ges ut av Akademikerförbundet SSR tillsammans med Internetstiftelsen och Volante förlag.
