Claes Lundström tittar på en digital patologibild. På den nationella forskningsarenan AIDA testas framtidens verktyg med AI-teknik och bild. Foto Kajsa JuslinHur kan system med AI-komponenter för vården utformas för att interaktionen mellan människa och dator ska bli bra? Det har Martin Lindvall utforskat, med särskilt fokus på det område inom maskininlärning som kallas djupinlärning, eller ”deep learning”. Enkelt uttryckt innebär det AI-metoder som lär sig genom att hitta mönster i en stor mängd träningsdata. Sådan AI kan exempelvis tränas upp för att hitta cancer i medicinska bilder.
En av de stora utmaningarna för de som utvecklar AI för vården är att AI:n inte alltid har rätt.Martin Lindvall. Foto Magnus Johansson
– Vi förväntar oss att AI:n kommer göra fel. Vi vet att vi kan göra den bättre över tid genom att säga till när AI:n har fel respektive rätt. Samtidigt som man ser till de aspekterna, behöver man arbeta med att systemet blir ändamålsenligt och effektivt att använda. Det är också viktigt att användarna tycker att maskininlärningskomponenten tillför något positivt, säger Martin Lindvall, nyligen disputerad industridoktorand vid Wallenberg AI Autonomous Systems and Software Program (WASP) vid LiU.
Går det att lita på att AI:n har rätt?
– Datorkomponenter som lär sig, genom att de är baserade på maskininlärning, kommer att fela på sätt som är svåra att förutsäga, säger Martin Lindvall.
Inom medicinsk bilddiagnostik kan AI tränas i att hitta avvikelser i exempelvis vävnadsprover. Men det har visat sig att maskininlärningstränade modeller kan vara känsliga för sådant som att man byter tillverkare av de kemikalier som används för att färga in vävnadssnitten, hur tjocka vävnadssnitten är eller om det finns damm på glaset i skannern. Sådana störande effekter kan leda till att modellen inte fungerar längre.
– Just de här faktorerna är kända nu och AI-utvecklare kontrollerar för dem. Men vi kan inte utesluta att fler sådana störfaktorer kommer att upptäckas i framtiden. Därför vill man gärna ha en barriär som hindrar även faktorer som vi ännu inte känner till.
Detta i sin tur leder till att det kan vara svårt för användaren att veta om AI:n går att lita på. För att AI-verktyg ska fungera i kliniska miljöer måste de förstås passa in i sjukvårdens arbetsflöde på ett effektivt och säkert sätt.
– Det AI-baserade stödet måste vara sådant att det inte leder till att människan behöver lägga lika mycket tid på att dubbelkolla AI:ns svar som att göra uppgiften utan stödet.
Användaren i förarsätet
Martin Lindvall och kollegor har utvecklat ett gränssnitt för människa-datorinteraktion som kan hjälpa läkare att bedöma vävnadssnitt. AI:n fungerar i det här fallet som en assistent till människan, till skillnad från mer autonoma AI-system som syftar till att ersätta en mänsklig användare. Maskininlärningskomponenten kan ge patologer stöd när de granskar vävnadsprover av lymfkörtlar, som tagits ut när cancer i tjocktarmen opererats bort. Om patologen hittar tumörceller i någon av lymfkörtlarna kan cancern ha spridit sig till andra delar i kroppen och patienten erbjuds behandling.
– Vi valde den här uppgiften eftersom patologer beskrev den som relativt enkel, men tråkig och tidskrävande. AI skulle kunna bidra med något bra där. Utmaningen låg i att göra ett AI-stöd som kan bidra till att det kan gå fortare. Patologerna kollar det här extremt fort i vanliga fall, de är helt fantastiska, säger Martin Lindvall.
I gränssnittet, som forskarna kallar Rapid Assisted Visual Search, eller RAVS, får patologen först se en översikt av körteln . AI:n pekar ut ett antal misstänkta områden. Om läkaren inte ser något i de områdena, anses provet vara cancerfritt. Martin Lindvall menar att det är en balans mellan att titta på all vävnad kontra att snabba upp processen. Målet är att läkaren ska känna sig trygg med resultatet, att det ska gå fortare och att det inte ska bli några felbeslut. Sex patologer har utvärderat gränssnittet, och forskarna har presenterat sina slutsatser vid International Conference on Intelligent User Interfaces (IUI ’21).
En aspekt som utmärker interaktionsgränssnittet är att forskarna valt att göra det möjligt för användaren att när som helst välja att strunta i AI:ns förslag och i stället titta på all vävnad på det sätt som de brukar göra.
– De flesta användare börjar på samma sätt: de ser på vad AI:n föreslår, men struntar i det. Med tiden bygger de upp en trygghet och använder AI:n mer. Så att ha en sådan användarinteraktion i systemet är dels en säkerhetsbarriär, dels får det patologen att känna sig trygg. Användaren sitter i förarsätet jämfört med mer autonoma AI-produkter, säger Martin Lindvall.
Forskarnas slutsats i studien är att patologerna arbetade snabbare när de använde RAVS-gränssnittet. Martin Lindvall menar att interaktionen mellan människan och den assisterande AI:n kan fylla en viktig roll för att påskynda införandet av AI inom medicinskt beslutsfattande, eftersom den både skapar en säkerhetsbarriär som än så länge saknas för autonom AI, och samtidigt hjälper användaren att bygga upp trygghet med systemet.
Dessutom kan denna typ av system lära sig medan det används. Genom att den mänskliga experten säger till om AI:ns förslag bedöms vara rätt eller fel, kan systemet bli bättre och bättre. Det öppnar upp möjligheten att denna typ av gränssnitt kan vara en språngbräda mot mer självständiga AI-system i framtiden.
Vikten av mjuka värden
Det har hänt mycket på forskningsfronten inom AI för bilddiagnostik under Martin Lindvalls forskarutbildning vid LiU.
– Jag började min tid som doktorand år 2016, och då fanns ytterst få studier som applicerade djupinlärning på vävnadsprover. I dag finns flera gigantiska studier på olika AI-applikationer som har visat sig kunna prestera bättre än specialistläkare, på vissa mycket specifika uppgifter. Det är väldigt imponerande. Jag har undrat innan: ”Är det här en hype eller inte?” Men nej, det här är på riktigt. Det finns dock utmaningar. Om man inte tar hand om de mjukare värdena, som användarens trygghet, då finns en risk att det kommer att ta längre tid än nödvändigt innan vi ser de här systemen användas i vården.
Martin Lindvall är knuten till Centrum för medicinsk bildvetenskap, CMIV, och anställd på det medicintekniska företaget Sectra.
Studien: Rapid Assisted Visual Search: Supporting Digital Pathologists with Imperfect AI, Martin Lindvall, Claes Lundström, and Jonas Löwgren, (2021), 26th International Conference on Intelligent User Interfaces (IUI ’21), April 14–17, 2021, https://doi.org/10.1145/3397481.3450681
