27 september 2024

Kapplöpningen mellan hackare som försöker knäcka samhällsbärande system och cybersäkerhetsexperter är ständigt pågående. Nu ska forskare vid Linköpings och Umeå universitet tillsammans med KTH utveckla artificiell intelligens som kan upptäcka hackerattacker och vidta åtgärder innan skadan är gjord.

En del av superdatorn som lyser rött.
Forskarna ska försöka använda AI för att övervaka säkerheten i samhällsbärande system i projektet Air2 (AI for Attack Identification, Response, and Recovery).  Fotograf: Thor Balkhed

Dagens samhälle blir alltmer uppkopplat där fler och fler system interagerar med varandra via molnbaserade tjänster. Många av systemen är samhällsbärande och kan hantera allt från bilar, sjukvårdsutrustning, och betalningssystem till gruvbrytning, trafikledning och energiförsörjning. Skulle en hackare av någon anledning vilja göra skada på ett enskilt företag eller samhällstjänster är dessa system potentiella mål.

– Det är system som inte får går ner. De måste vara robusta och kunna motstå attacker. Men med integrationen av AI i systemen och mängden system som ska kommunicera med varandra finns det hundratusentals olika parametrar som en hackare kan utnyttja och attackera. Då måste man kunna identifiera var attacken sker och stoppa den innan skadan är gjord, säger Simin Nadjm-Tehrani, professor i datalogi vid Linköpings universitet.

Maskininlärning och resonemang

För att lyckas tänker forskarna använda AI för att övervaka säkerheten i systemen. Men det är lättare sagt än gjort. Så kallade djupinlärningsmodeller som drar slutsatser utifrån mönster i stora datamängder skulle i det här fallet inte vara ett ensamt alternativ enligt forskarna.

System som baseras på djupinlärning kan i dagsläget inte förklara vad som är grunden till att känna igen en attack. Dessutom kan en hackare försöka manipulera datan som modellen tränas på för att passera under radarn.

Porträtt Simin Nadjm-Tehrani.
Simin Nadjm-Tehrani, professor i datalogi vid Linköpings universitet. Fotograf: Peter Modin

Därför måste djupinlärningsmodeller kombineras med så kallade resonerade modeller. Det forskarna framför allt tänker sig är en AI som kan skapa alla hundratusentals möjliga vägar som en angripare kan utnyttja och samtidigt ta fram en beredskapsplan för varje unik attack och utföra responsen autonomt. AI:n måste också kunna bevisa att responsen är säker att utföra och att den i sig själv inte skadar systemet. Oftast brukar denna kombination kallas för neurosymboliskt resonemang.

– Det går att likna vid en frisk människa som hela tiden är övervakad för alla tänkbara sjukdomar där man kan sätta in botemedel redan vid första tecken på symtom, säger Simin Nadjm-Tehrani.

Identifiera en verklig attack

Men det är viktigt att AI:n kan särskilja en attack från ett avvikande men ofarligt mönster. Med andra ord, systemet får inte ”skrika varg” varje gång något avvikande sker utan endast när det verkligen är en attack.

– I exemplet med människan kan vi jämföra det med att verkligen vara sjuk eller bara jetlaggad och trött. Det kräver olika typer av insatser. För att åtgärderna ska bli effektiva behöver varje respons på en attack dessutom gå att förklara att det är just här attacken sker. Det är det som skulle gör en direktåtgärd möjlig överhuvudtaget, säger Simin Nadjm-Tehrani.

Wasp-projekt

Projektet som går under benämningen Air2 (AI for Attack Identification, Response, and Recovery) koordineras av Linköpings universitet och ingår i satsningen på cybersäkerhet från Wallenberg AI, Autonomous Systems and Software Program (WASP). Projektgruppen leds av Simin Nadjm-Tehrani, professor vid Institutionen för datavetenskap vid LiU. Övriga projektdeltagare är Jendrik Seipp, docent, även han på Institutionen för datavetenskap vid LiU, Monowar Bhuyan, biträdande universitetslektor vid Umeå universitet och Rolf Stadler, professor vid KTH. Tillsammans ska de handleda sex unga forskare i projektet.

Kontakt

Sveriges största forskningsprogram

Mer om AI vid LiU

Senaste nytt från LiU

Person (Robert Forchheimer) med mobiltelefon.

Gratisapparnas dolda kostnader – mer än personliga data

Prokrastinering, minskad sömn och försämrat fokus är en del av priset vi betalar för kostnadsfria appar till mobilen. Det menar forskare vid LiU och Rise som undersökt vilka kostnader som egentligen döljer sig bakom gratisapparna.

Vatten framför en bro och en byggnad. Blå himmel och ett träd i höstfärger.

LiU klättrar i global rankning

Linköpings universitet tar sig upp till plats 201–250 när brittiska Times Higher Education släpper sin årliga rankning för världens lärosäten.

Poddsuccén gjorde historieläraren till folkkär folkbildare

Daniel Hermansson är gymnasieläraren som blev en stor folkbildare. Oavsett om det är i podd, tv eller bokform berättar Årets alumn om vår historia lika initierat som underhållande.