– I och med att säkerhetshoten ökar och vi samtidigt bygger in ett beroende av AI-teknologi i vårt samhälle, blir det allt viktigare att säkerställa att den teknologin är både säker och motståndskraftig mot olika former av störningar, säger Fredrik Heintz, professor i datavetenskap vid LiU.
Användningen av artificiell intelligens ökar hastigt inom allt fler områden som bland annat energiförsörjning, hälso- och sjukvård och industri. Men införandet av nya teknologier innebär också risker, speciellt i en osäker omvärld där så kallade hybridattacker av olika slag blir allt vanligare.
– Jag tror det är svårt att veta många av riskerna i förväg. Det är ju först när du utsätts för dem som du också inser vad som faktiskt behövs. Sen kanske man inte kunde förutse just hur viktiga AI- teknologier har blivit, säger Fredrik Heintz.
För att hitta projekt som stärker tåligheten i framtidens AI-system mot cyberattacker och tekniska misstag gjorde SSF en utlysning. Bland de inkomna ansökningarna ansågs Resist ha bäst potential för att uppfylla målen. LiU blir värd för centrumet där också forskare från Lunds och Örebro universitet, samt forskningsinstitutet RISE, medverkar.
Bred samverkan för nyttiggörande
Inom konsortiet kommer de att samarbeta med Ericsson, Saab, Epiroc, Sectra, Siemens Energy, Combient, Totalförsvarets forskningsinstitut, Myndigheten för samhällsskydd och beredskap, Cybercampus Sverige samt WARA-PS som är en forskningsarena för offentlig säkerhet inom forskningsprogrammet WASP.
– Det är ju kul att forska och jobba med teknikutveckling – men – vi vill ju att det ska bli nytta av den forskning vi bedriver! Med tanke på hur viktiga de här teknologierna är för Sverige så är det ju otroligt centralt att vi säkerställer att vi har resilienta AI-system både i vår kritiska infrastruktur och att våra ledande företag inte ska drabbas av störningar, säger Fredrik Heintz.
Han menar att såväl forsking som industri kan dra stor nytta av samarbetet.
– Flera av våra partners verkar i illvilliga miljöer, så det finns ju väldigt stor erfarenhet och kunskap hos företagen som vi vill ta till vara. Vi kommer också att bygga vidare på arbetet inom WARA PS, testbädden för cybersäkerhet vid RISE och Cybercampus. Vår vision är att etablera ett multidisciplinärt center i världsklass för säker och tillförlitlig AI genom hela AI-livscykeln och göra Sverige till en världsledande förebild inom området.
