Vi blir alltmer beroende av datorer och automation i både yrkes- och privatliv. Samtidigt blir systemen mer avancerade vilket gör att de blir allt svårare att förstå.
Även för proffs inom sitt fält kan det vara svårt att förstå varför ett AI- eller automatiserat system gör på det ena eller andra sättet. Det kan ställa till problem när fler och fler funktioner automatiseras och ska samarbeta med oss människor. I slutänden handlar det om tillit.
AI tränas på dig
Forskare vid bland annat Linköpings universitet har i ett nyligen avslutat Horizon 2020-projekt – Mahalo – undersökt hur framtidens automation inom flygledning med hjälp av artificiell intelligens ska fungera på ett så säkert och användarvänligt sätt som möjligt. För att göra det undersökte forskarna två spår: En förklarad traditionell automation som gör som mjukvaruutvecklarna avsett eller ett individanpassat system som bygger på att AI tränas som dig på individ.
– Tänk på Spotify eller Youtube som rekommenderar ny underhållning baserat på det du lyssnat och tittat på tidigare. På ungefär samma sätt kan man utforma andra system. Tanken är att du som person ska dra slutsatsen att du förstår varför systemet gör som det gör, säger Carl Westin, forskare vid Institutionen för teknik och naturvetenskap.
För att testa vilket av de två spåren för automatisering av flygledning som var bäst fick 34 flygledare simulera verkliga situationer där graden av individanpassad automation varierade mellan låg, medel och hög. Alla flygledare fick göra testerna 18 gånger slumpmässigt.
Human factors
Resultaten visade att ett system som lär sig användaren med hjälp av AI är den bästa vägen framåt.
– Alla människor har en egen personlighet och ett unikt beteende. Fördelen med AI-systemen är att de kan ta hänsyn till det. Då kan vi också lära oss mer om oss själva genom AI – vi hittar nya insikter om oss själva och våra beteenden. Det är den stora nyttan med AI just nu, säger Carl Westin.Carl Westin, biträdande universitetslektor vid avdelningen Medie- och informationsteknik har human factors som forskningsområde. Foto Linköpings universitet
Han forskar inom ett fält som kallas human factors. Hans fokus ligger på mänsklig interaktion med automatisering ur både en fysiologisk och psykologisk vinkel. Dessutom är han pilot för ett kommersiellt bolag vilket kommer väl till pass inom det aktuella forskningsprojektet.
I dagsläget är flygledning ett nästan helt manuellt beslutssystem där människor med lång träning och erfarenhet tar många beslut på kort tid. Dessutom behöver kommunikationen med alla piloter vara glasklar för att flygtrafiken ska fungera och vara säker.
Tillit begränsar
Potentialen för automatisering är däremot väldigt hög, men att släppa den uppgiften helt till AI tror Carl Westin inte kommer att hända. Det är däremot inte tekniken som sätter begränsningarna utan hur mycket man vågar lita på automatiseringen.
– Konsekvenserna blir väldigt stora om något skulle gå fel. Det finns ett enormt säkerhetsarbete att ta hänsyn till vid flygledning vilket gör att nya metoder måste testas grundligt. Dessutom finns det liten konkurrens inom fältet vilket gör att utvecklingen går långsamt, säger han.
Carl Westin gör jämförelsen med bilindustrin. Där är konkurrensen mördande och det går mycket snabbare att få ut förändringar i fordonens automatisering. På gott och ont. Utvecklingen går framåt men samtidigt kan system som inte är redo finnas i trafiken för att biltillverkarna behöver behålla sina marknadsandelar.
Digitala kollegor
Men förändringen kommer även för flygledarna, om än lite långsammare.
– AI är på uppgång brett och den stora hypen just nu är digitala kollegor. Det innebär att det måste finnas en symbios mellan människa och maskin. Men när den tekniska utvecklingen går så snabbt framåt glömmer man lätt bort människan som ska använda systemet.
Forskningsprojektet heter Mahalo som står Modern ATM via Human/Automation Learning Optimisation. Det har finansierats av EU:s ramprogram Horizon 2020 och koordinerats av konsultföretaget Deep Blue. Projektpartners har varit Linköpings universitet (Institutionen för teknik och naturvetenskap med Carl Westin och Jonas Lundberg, professor, samt Institutionen för datavetenskap med Magnus Bång, biträdande professor), Delfts tekniska universitet, Center for Human Performance Research samt Luftfartsverket, LFV.
Läs mer om projektet på mahaloproject.eu
Läs mer om andra projekt inom samma forskningsområde på ivis.itn.liu.se
