De är topp 36 i världen inom maskininlärning

I december i år samlas världens forskare inom maskin- och djupinlärning till en stor konferens i Vancouver, Kanada. Konferensen heter Neural Information Processing Systems, NeurIPS 2019. 7000 bidrag skickades in, 1200 accepterades och 36 av dem ska framföras som föredrag inför de cirka 10 000 konferensdeltagarna.

För ett av föredragen står Anna Wigren, doktorand hos LiU-forskaren Fredrik Lindsten, men med placering vid Uppsala universitet. Arbetet handlar om hur man kan automatisera delar av maskininlärningen för att få den effektivare, mer robust och mer lättanvänd.

– Vi måsta kunna hantera osäkerheten i beräkningarna för att systemen ska vara robusta, säger Fredrik Lindsten, biträdande professor vid avdelningen Statistik och maskininlärning, Institutionen för datavetenskap.

Datormodeller av komplexa system

Fredrik Lindstens forskning handlar om att ta fram och förbättra de algoritmer som används för att bygga datormodeller av komplexa system. Ett antal olika grundalgoritmer kan kombineras och modifieras beroende på vilken typ av problem som ska lösas.

Fredrik Lindsten Foto Magnus Johansson– Ett exempel där vi har många okända parametrar är vid beräkningar av hur epidemier sprids. Där har vi bidragit till ett förbättra algoritmerna, berättar Fredrik Lindsten.

Det forskarna har gjort är att relatera resultaten från beräkningarna till hur verkligheten har sett ut hittills, exempelvis hur sjukdomar har spritts i världen över tid, hur många som har insjuknat och var.
– Vi använder observationer som grund, med statistiska metoder studerar vi sedan förändringar över tid och drar slutsatser kring hur det kommer att se ut i framtiden. Modellen bygger på antagandet att om vi vet vad som hände i går kan vi också se framåt, säger Fredrik Lindsten.

Samma typ av algoritmer som använts för att förutspå epidemier kan exempelvis också användas inom helt andra områden, som inom oceanografi, fast här är det havsnivåer över tid med mera som plockas in i systemet.
– Vi anpassar algoritmen och parametrarna efter de data som samlats in, säger han.

Probabilistisk programmering

Metoden har de integrerat i det som kallas probabilistisk programmering, en metod som går ut på att separera kodandet och algoritmerna från specifikationen av den modell man vill använda. Med modell menas här de ekvationer som används för att beskriva hur exempelvis en epidemi utvecklas över tiden. Modellen är något som de som har inblick i själva tillämpningen (i detta fall epidemiologer) är bäst lämpade att specificera. I modelleringssteget används kunskaper om den tillämpning man vill modellera.
Däremot är det sällan epidemiologer, oceanografer eller andra användare av probabilistisk modellering som är bäst lämpade att koda upp de algoritmer som används för att anpassa parametrarna i dessa modeller till observerade data.

Anna Wigren– Tanken med probabilistisk programmering är att användaren ska kunna koda upp sin modell i ett generiskt programmeringsspråk, därefter tar beräkningsalgoritmerna vid och anpassar modellerna till de data man har samlat in, säger Fredrik Lindsten.

Vid konferensen kommer Anna Wigren exempelvis att använda exemplet med spridning av dengue-feber på en ö i Mikronesien, en sjukdom som sprids med stickmyggor och skördar 10 000-tals liv per år.

Forskningen har Fredrik Lindsten och Anna Wigren bedrivit tillsammans med forskare vid Uppsala universitet och företaget Ubers forskningsavdelning, Uber AI. Forskningen har finansierats med medel från Vetenskapsrådet, Stiftelsen för strategisk forskning och är en del av Wallenberg AI Autonomous Systems and Software Program, finansierat av Knut och Alice Wallenbergs Stiftelse.

Parameter elimination in particle Gibbs sampling, Anna Wigren, Riccardo Sven Risuleo, Lawrence Murray and Fredrik Lindsten, 33rd Conference on Neural Information Processing Systems (NeurIPS 2019), Vancouver, Canada.