Det är söndagmorgon i slutet av februari och solen har precis gått upp. Barnen tittar på tv, och jag har äntligen tid att i lugn och ro läsa artikelserien om ADHD i Läkartidningen. Kaffet är varmt och det är stilla i hemmet, så jag kan fokusera på innehållet i artiklarna. Jag älskar upplevelsen som kommer med inlärning och att tvingas utmana mina åsikter. Det är något befriande i att få möjligheten att tänka nytt.
Som psykiater fascineras jag av det mänskliga medvetandet och dess egenheter. Den här vintern har det intresset lett mig till att utforska användningen av artificiell intelligens inom psykiatriskt arbete. Fenomenen uppmärksamhet och inlärning är tätt sammankopplade och centrala för förståelsen av hur den här tekniken fungerar.
Jag har förmånen att få arbeta tillsammans med forskare inom etisk implementering av artificiell intelligens och med en AI-ingenjör. Att vara med och utveckla en virtuell medicinsk expert innebär nya insikter för mig i minst samma utsträckning som för modellerna vi tränar.
Träningen börjar med en basmodell som matats med stora mängder svensk text. Det första intrycket av basmodellen är att den är mentalt instabil. När jag ber den beskriva ett psykiatriskt status så vältrar den sig ingående i suicidtankar på ett närmast obscent vis. Förklaringen visar sig vara att en del träningsdata kommer från nätforum som Flashback, där användare öppet diskuterar sina existentiella tankar.
Situationen förbättras något efter att vår AI-ingenjör låter språkmodellen tränas på ett antal fallbeskrivningar jag skrivit. När jag nu ger modellen i uppgift att skapa en fiktiv patientberättelse kvarstår fortfarande en tendens att fokusera på suicid och droganvändning. Stilen är mer professionell, men innehållet spretar och kärnan i journalföringen saknas.
Vi tillför i nästa steg mer specialiserad litteratur, vetenskapliga artiklar och nationella riktlinjer. Modellen börjar allt mer bete sig som man kan förvänta sig av en läkare. Den fångar upp viktiga nyckelbegrepp och uppmärksammar nu kärnsymtom, vilka jag som psykiater söker hos mina patienter. Det oväntade uppstår dock när modellen ska beskriva en deprimerad patient med missbruksproblem. I bedömningsfasen konstateras att patienten tyvärr suiciderat, men att vederbörande till en följd därav helt upphört med sitt missbruk. Jag blir besviken över modellens inkompetens och inser att den behöver djupare kunskaper om vilka värden och mål som är eftersträvansvärda och hur de förhåller sig till varandra. Vi tillför patientberättelser, beskrivningar av anhörigas upplevelser och mer filosofiska texter om vårdens förutsättningar. Insikten är att mina grundantaganden lett mig till att utgå från att modellen förstår världen på mitt sätt. Den artificiella intelligensen saknade dock grundläggande pusselbitar för att göra korrekta tolkningar av fakta och sammanhang.
Modellen vet inte sina begränsningar; den är en mästare på att se samband men kan inte lämnas att fatta beslut utanför sina kunskapsramar. Artificiell intelligens kan fokusera sin uppmärksamhet och lära nytt i en våldsam fart. Den upplevda fascinationen av att en söndagmorgon lära sig något nytt och ges möjlighet att utmana sina åsikter, det får dock vi människor fortfarande ta ansvaret för.
