Användningen av AI och vem som styr utvecklingen och säkerställer säkerheten var temat för en diskussion under Almedalen.
Vice ordförande Lars Rocksén presenterade siffror från Läkarförbundet, bland annat att var fjärde läkare använder AI i sitt arbete – men ofta utan tydliga riktlinjer. 45 procent som använder AI gör det ofta, och 46 procent av användningen handlar om journalskrivande.
Lars Rocksén såg tre risker: etiska problem med att en tredje part (AI:n) som finns med i rummet kan fatta beslut, patientens integritet och att det är en tredje part som lyssnar samt ansvarsfrågan.
– Regelverk måste tas fram.
Endast åtta regioner har i dagsläget policyer för AI-användning inom vården, enligt Läkarförbundet.
– Vår undersökning visar att regionerna efterfrågar ett nationellt ställningstagande, sa Lars Rocksén.
Paneldeltagarna hade också en hel del att efterfråga när det gäller AI inom sjukvården och hur den används.
– Vi behöver ta ett samlat grepp om AI i Sverige, det måste implementeras på ett tryggt och säkert sätt. Det måste utvecklas tillsammans med läkarna, inte åt läkarna. Man måste analysera vilka behov som finns, sa Sofia Rydgren Stale.
Det tyckte även säkerhetskonsulten Fia Ewald. Hon menade att man inte kan låta teknikföretagen ha makten – då kan man riskera att slösa »ganska mycket pengar«.
– Vi måste mota ut leverantörerna och först formulera behoven, sa Fia Ewald.
Även Stefan Jovinge höll med om detta och pekade på vikten av att involvera professionen.
– Egentligen är det inte några tekniska problem med Millennium, men man har inte utbildat ordentligt. Det är helt misslyckat om professionen inte är med i implementeringen, sa han.
Nasim Bergman Farrokhnia, ordförande för E-hälsoläkarföreningen och »healthcare executive« för Microsoft i västra Europa, lyfte fram problematiken med att fastna i ett dyrt system som man är låst med i många år framåt, »och sedan springer tekniken förbi«.
Därför gäller det att hänga med, och involvera professionen under tiden, tyckte flera. Ansvarsfrågan är dock klurigare att bena ut, åtminstone under ett debattsamtal i Almedalen. Max Herulf, avdelningschef på E-hälosmyndigheten, tyckte inte att det är ett problem i nuläget:
– Självkörande bilar kör bättre än människor, och ändå har man i det fallet inte lyckats lösa frågan om ansvar. Jag är ganska säker på att den inte går att lösa härnäst, utan att människan kommer att stå för besluten under en ganska lång tid framöver, sa Max Herulf.
Stefan Jovinge såg inte heller ansvarsfrågan som ett problem och ansåg att läkare bör vara tillräckligt smarta för att tolka information själva och att AI är ett beslutsstöd, inte beslutsfattare. Däremot behövs riktlinjer, påpekade han.
– Nationella riktlinjer från myndigheter, inte intresseföreningar. Till exempel E-hälsomyndigheten.
Läs också:
10 regioner saknar riktlinjer för AI – SLF vill se nationell strategi
Ny rapport: Många AI-initiativ i vården – men svårt att få spridnig
Ny rekommendation ska vässa diagnoser där AI använts
AI-bot misstänks ha använts i journalen – läkare Ivo-anmäls
Många läkare använder AI i jobbet – men förbundet varnar för risker
Färsk studie: Läkare hade ingen nytta av Chat GPT
Chat GPT tio gånger snabbare på anteckningar än läkare i ny studie
