Så kan AI och människan samarbeta

AI som inte tar hänsyn till mänskliga operatörer skapar problem. Nu bygger LiU-forskare, tillsammans med Luftfartsverket, ett system där artificiell intelligens och människan arbetar tillsammans med att övervaka flygtrafik. 

Vi bygger AI:n utifrån ett kognitionsvetenskapligt perspektiv, säger biträdande professor  Magnus Bång. Thor Balkhed

– Minns du det där gemet som brukade dyka upp i Microsoft Word? Där har du problematiken. Om ett stödsystem ska hjälpa dig så måste det förstå vad du håller på med, annars kan det vara störande, säger Magnus Bång, biträdande professor vid Institutionen för datavetenskap på LiU.

Magnus Bång och Jonas Lundberg, professor vid Institutionen för teknik och naturvetenskap, leder, tillsammans med Luftfartsverket, forskningsprojektet F-Auto, Följsam Automation. I projektet undersöker de hur AI ska kunna vara stöd för flygledare.

De båda forskarna har byggt ett system som övervakar flygtrafik och som, med hjälp av AI, kan hitta konflikter, till exempel upptäcka flygplan som är för nära varandra eller vars färdriktningar korsas.

– De konflikterna ska kunna lösas automatiskt genom att AI:n själv till exempel ändrar riktning eller hastighet för ett flygplan, förklarar Magnus Bång.

”Human-in-the-Loop-AI”

Traditionellt har automatisering ofta inneburit att man automatiserar så mycket som tekniken klarar. Det som blivit över lämnar man till en mänsklig operatör att lösa. Men det tillvägagångssättet har inneburit problem. Om operatören saknar arbetsuppgifter förlorar han snabbt lägesbilden. Skulle AI:n plötsligt meddela att den inte klarar av situationen och lämna över ansvaret till operatören så har denna ingen aning om vad som pågår. Då kan det vara omöjligt att snabbt fatta kloka beslut.

Motsatt situation kan också uppstå. När flygledaren är upptagen med att lösa ett akut problem så ska inte AI:n dyka upp och störa.

Istället för att automatisera så mycket som möjligt så menar Magnus Bång och Jonas Lundberg att man måste skapa system där och operatören kontinuerligt hålls informerad. De använder termen ”Human-in-the-Loop-AI”.

– Vår forskningsfråga är: ”Hur gör man så att operatören och AI:n samarbetar?”. Vi menar att AI:n måste veta vad flygledaren gör och flygledaren måste veta vad AI:n gör, säger Magnus Bång.

Går ett steg längre 

För att ta reda på vad flygledaren gör använder de sig av eye-tracking, eller blickspårning på svenska. Flygledaren har på sig ett par särskilda glasögon och på så sätt kan man följa hans ögonrörelser.

– Den informationen strömmas i realtid och då förstår vi vad flygledaren tittar på. Vi kan veta vilken enskild konflikt han jobbar med genom ögonrörelserna. Den informationen skickas till AI:n. Om flygledaren fixerar ögonen på ett visst flygobjekt då vet AI:n att operatören har sett det.

Trots att AI är populärt forskningsområde görs det inte mycket forskning som Magnus Bång och Johan Lundbergs.

– Det finns förstås mycket kognitionsforskning kring problem med automatisering, men vi går ett steg längre och tar med oss det kognitionsvetenskapliga synsättet när vi bygger de här stödsystemen. Vi vill inte automatisera processer bara för att det är möjligt, utan vi bygger själva AI:n utifrån ett kognitionsvetenskapligt perspektiv.

Syftet med deras system är att stötta flygledaren vilket bland annat ska leda till ökad säkerhet.

– En sak som vi är ute efter är att kunna upptäcka om operatören missat någonting. Människan och tekniken ska som helhet kunna öka effektiviteten, ha koll på ett större luftrum och kunna landa fler plan.

System är industrinära

Forskningen inom projektet handlar om flygledning, men resultaten kommer vara tillämpbara på många andra områden.

– I alla arbetsmiljöer som kräver en människa finns de här problemen när man automatiserar. Det kan gälla sjötrafik, kontrollrum i kärnkraftverk eller i sjukvården.

Magnus Bång och Jonas Lundbergs forskning är pågående. Att systemet skulle börja användas på riktigt ligger i framtiden.

– Vårt AI-system är industrinära, men det är säkert minst tio år till att flygledare skulle kunna börja använda det skarpt. Det är stora valideringsprocesser som ska till. Säkerhetsnivån inom flyg är superhög och vi jobbar förstås tillsammans med Luftfartsverket. Samtidigt finns det ett stort intresse i både EU och USA av att delar av lufttrafiken automatiseras.

 

Fyra frågor till Magnus Nylin, industridoktorand vid Luftfartsverket.

Magnus Nylins forskningsprojekt är en del av F-auto-projektet. En Industridoktorand är en forskarstuderande vars forskning ingår i en tjänst på ett företag eller i det här fallet LFV. Magnus NylinMagnus Nylin

Vad har du för bakgrund?

Jag har en master i kognitionsvetenskap från Linköpings universitet. Den läste jag för att jag ville doktorera. Jag har också gått en flygledarutbildning. På LFV har jag jobbat sedan 1999.

Berätta om din forskning

Min forskning handlar om följsam automation, F-auto. Projektet rör inte bara flyg, utan också tåg- och sjötrafik, men jag jobbar främst med flygtrafikledningsdelen. 
Vi försöker ta in information om operatören i systemet. Idag tittar den här typen av automatiserade system bara utåt, men de vet inget om operatören. Poängen med f-auto är att få systemet att förstå vad operatören gör.

Det jag gör inom min doktorandutbildning handlar om själva interaktionen. Hur ska systemet anpassa sig efter människan?  När och hur ska ett högautomatiserat system berätta att det behöver hjälp med något? 
Om systemet känner till flygledarens situation så kan informationen anpassas efter det.

Varför har inte följsamma system byggts tidigare?

Det finns flera skäl. Ett är teknikutvecklingen. För att förstå operatörens situation använder vi oss, bland annat, av eye-tracking och den utrustningen var tidigare stor och klumpig. Det har inte varit möjligt att skapa ett sådant här system som var praktiskt användbart. En viktig tanke med F-auto-konceptet är ju att systemet ska underlätta operatörens bedömningar. Sen har utvecklingen inom AI också skapat nya möjligheter att analysera den data man samlar in.

När kommer din avhandling vara klar? 

Jag har avverkat tre av fem år, så det börjar närma sig.

KontaktVisa/dölj innehåll

Senaste nytt från LiUVisa/dölj innehåll