Så kan AI och människan samarbeta

AI som inte tar hänsyn till mänskliga operatörer skapar problem. Nu bygger LiU-forskare ett system där artificiell intelligens och människan arbetar tillsammans med att övervaka flygtrafik. 

Vi bygger AI:n utifrån ett kognitionsvetenskapligt perspektiv, säger biträdande professor  Magnus Bång. Thor Balkhed

– Minns du det där gemet som brukade dyka upp i Microsoft Word? Där har du problematiken. Om ett stödsystem ska hjälpa dig så måste det förstå vad du håller på med, annars kan det vara störande, säger Magnus Bång, biträdande professor vid Institutionen för datavetenskap på LiU.

Tillsammans med Jonas Lundberg, som är professor vid Institutionen för teknik och naturvetenskap, leder han forskningsprojektet F-Auto, Följsam Automation. I projektet undersöker de hur AI ska kunna vara stöd för flygledare.

De båda forskarna har byggt ett system som övervakar flygtrafik och som, med hjälp av AI, kan hitta konflikter, till exempel upptäcka flygplan som är för nära varandra eller vars färdriktningar korsas.

– De konflikterna ska kunna lösas automatiskt genom att AI:n själv till exempel ändrar riktning eller hastighet för ett flygplan, förklarar Magnus Bång.

”Human-in-the-Loop-AI”

Traditionellt har automatisering ofta inneburit att man automatiserar så mycket som tekniken klarar. Det som blivit över lämnar man till en mänsklig operatör att lösa. Men det tillvägagångssättet har inneburit problem. Om operatören saknar arbetsuppgifter förlorar han snabbt lägesbilden. Skulle AI:n plötsligt meddela att den inte klarar av situationen och lämna över ansvaret till operatören så har denna ingen aning om vad som pågår. Då kan det vara omöjligt att snabbt fatta kloka beslut.

Motsatt situation kan också uppstå. När flygledaren är upptagen med att lösa ett akut problem så ska inte AI:n dyka upp och störa.

Istället för att automatisera så mycket som möjligt så menar Magnus Bång och Jonas Lundberg att man måste skapa system där och operatören kontinuerligt hålls informerad. De använder termen ”Human-in-the-Loop-AI”.

– Vår forskningsfråga är: ”Hur gör man så att operatören och AI:n samarbetar?”. Vi menar att AI:n måste veta vad flygledaren gör och flygledaren måste veta vad AI:n gör, säger Magnus Bång.

Går ett steg längre 

För att ta reda på vad flygledaren gör använder de sig av eye-tracking, eller blickspårning på svenska. Flygledaren har på sig ett par särskilda glasögon och på så sätt kan man följa hans ögonrörelser.

– Den informationen strömmas i realtid och då förstår vi vad flygledaren tittar på. Vi kan veta vilken enskild konflikt han jobbar med genom ögonrörelserna. Den informationen skickas till AI:n. Om flygledaren fixerar ögonen på ett visst flygobjekt då vet AI:n att operatören har sett det.

Trots att AI är populärt forskningsområde görs det inte mycket forskning som Magnus Bång och Johan Lundbergs.

– Det finns förstås mycket kognitionsforskning kring problem med automatisering, men vi går ett steg längre och tar med oss det kognitionsvetenskapliga synsättet när vi bygger de här stödsystemen. Vi vill inte automatisera processer bara för att det är möjligt, utan vi bygger själva AI:n utifrån ett kognitionsvetenskapligt perspektiv.

Syftet med deras system är att stötta flygledaren vilket bland annat ska leda till ökad säkerhet.

– En sak som vi är ute efter är att kunna upptäcka om operatören missat någonting. Människan och tekniken ska som helhet kunna öka effektiviteten, ha koll på ett större luftrum och kunna landa fler plan.

System är industrinära

Forskningen inom projektet handlar om flygledning, men resultaten kommer vara tillämpbara på många andra områden.

– I alla arbetsmiljöer som kräver en människa finns de här problemen när man automatiserar. Det kan gälla sjötrafik, kontrollrum i kärnkraftverk eller i sjukvården.

Magnus Bång och Jonas Lundbergs forskning är pågående. Att systemet skulle börja användas på riktigt ligger i framtiden.

– Vårt AI-system är industrinära, men det är säkert minst tio år till att flygledare skulle kunna börja använda det skarpt. Det är stora valideringsprocesser som ska till. Säkerhetsnivån inom flyg är superhög och vi jobbar förstås tillsammans med Luftfartsverket. Samtidigt finns det ett stort intresse i både EU och USA av att delar av lufttrafiken automatiseras.

KontaktVisa/dölj innehåll

Senaste nytt från LiUVisa/dölj innehåll