Replik. Utveckling av beslutsstöd inom såväl primärvård som sjukhusbaserad vård är en viktig fråga. En nyligen publicerad debattartikel i Läkartidningen [1] är tyvärr otydlig, då den inte skiljer mellan AI som ett sätt att ta fram algoritmer/beslutsregler för beslutsstöd och mer generella AI-stöd.

I artikeln saknas också en diskussion om skillnaden (vid de aktuella tillstånden) mellan ett beslutsstöd baserat på evidensbaserade algoritmer framtagna i konsensus inom vården och ett stöd där AI använts för att ta fram algoritmer möjliga att granska. Det är förstås en avgörande fråga för hur man arbetar vidare med beslutsstöd. Båda sätten kommer sannolikt att behövas, men vilka för- och nackdelarna är med de olika lösningarna, och vad AI tillför i skilda situationer, behöver tydliggöras.

Allra viktigast är dock behovet av att inte bara testa intern validitet i ett beslutsstöd utan även att det är relevant för och uppfyller behoven i klinisk användning – den externa validiteten. Det är särskilt viktigt när AI använts för att utveckla och testa algoritmer vid vissa enheter och ska börja användas vid andra liknande kliniker. Annars kan förhoppningar om nytta bytas till risker för patientsäkerheten. Journalsystemet Epic har till exempel tillfälligt dragit tillbaka sitt AI-baserade beslutsstöd kring septikemi vid akut omhändertagande sedan det visats ha stora brister vid bredare användning vid liknande enheter [2].

Det saknas i artikeln hänvisning till den mycket livaktiga diskussion som förs bland forskare inom AI och datavetenskap kring svårigheterna att validera AI-baserade beslutsstöd [3, 4]. Det framgår att två av författarna genom affiliering företräder det bolag vars beslutstöd lyfts i debattartikeln; däremot saknas jävsdeklaration för de övriga två. AI innebär nya möjligheter, men debattartikeln ger mig inte stöd att värdera det som framförs kring bolagets medicintekniska produkt eller kring AI i dessa sammanhang.

Jag ser fram mot fler artiklar kring beslutsstöd med eller utan inslag av AI som inte bara lyfter upplevda fördelar utan även nytta och risker identifierade i relevanta kliniska prövningar och riskanalyser vid implementering i vården. Det behövs också en diskussion om hur vi i vården ska förhålla oss i en framtid med flera beslutsstöd från skilda leverantörer i en och samma arbetsmiljö med skild logik kring signaler och rekommendationer [5].

Potentiella bindningar eller jävsförhållanden: Inga uppgivna.