Den ökande integreringen av artificiell intelligens (AI) i sektorer som kritisk infrastruktur, autonoma transportsystem, industriell automation och digitala tjänster, erbjuder en enorm transformativ potential. Samtidigt innebär denna integrering betydande sårbarheter, eftersom AI‑system är mottagliga för nya typer av cyberhot och operativa fel. För att säkerställa AI‑systemens resiliens mot sådana hot, särskilt i tider av geopolitisk instabilitet, är det nödvändigt med verifierbara, tillförlitliga och säkra mekanismer. För att möta detta bygger RESIST systematiskt ett världsledande tvärvetenskapligt forskningscentrum som samlar ledande forskare och nationella initiativ för att driva forskning och utveckling av cyberresilienta AI‑system till nytta för svensk industri och samhälle.
RESIST – ett nationellt centrum för motståndskraftiga AI-system
Vår vision är att göra Sverige till en förebild inom säker och tillförlitlig AI, genom att vara pionjär inom cyberresiliens under hela AI‑livscykeln.
Tillförlitlig AI förutsätter stark cyberresiliens
När AI snabbt vävs in i avgörande funktioner i samhället växer också behovet av att förstå hur tekniken kan göras motståndskraftig i en föränderlig och osäker omvärld.
Stark förankring i AI och cybersäkerhet
Den övergripande vetenskapliga utmaningen är att utveckla nya tekniker och metoder med stark förankring i AI och cybersäkerhet för att uppnå holistisk cyberresiliens genom hela AI‑livscykeln. Det innebär att även under skadliga förhållanden och oförutsedda störningar upprätthålla:
- säkerhet
- integritet
- operativ robusthet
- tillförlitlighet för AI‑modeller, system och agenter
De två forskningsområdena, AI och säkerhet, täcker kompletterande aspekter av AI‑säkerhet men möts sällan. Säkerhetsforskare bidrar med djup expertis, metodisk noggrannhet och praktiska hotmodeller, medan AI‑forskare fokuserar på robusthet och nya metodologier. Resultatet är ett forskningsfält som växer i omfattning men är splittrat i vision, vilket lämnar betydande möjligheter outforskade i skärningspunkten mellan de två. RESIST kommer att fokusera på just denna skärningspunkt.
Linköpings universitet
är värd för RESIST. Finansieringen på 60 miljoner kronor kommer från Stiftelsen för strategisk forskning, SSF.
Om RESIST
RESIST:s verksamhet består av
Forskningsprogram
RESIST utvecklar metoder för att:
- säkerställa AI‑modellers tillförlitlighet och verifierbarhet under hela deras livscykel
- skydda AI‑modeller mot attacker under drift
- säkerställa att system som utvecklas med AI är robusta och säkra
- etablera resilienta AI‑arkitekturer som kan motstå fel utan att kompromissa med prestanda.
Dessa fyra teman utgör utgångspunkten för RESIST‑forskningsprogrammet. Eftersom området är mycket dynamiskt och snabbt utvecklas följer vi utvecklingen och anpassar teman därefter.
Valideringsprogram
- AI‑driven kritisk infrastruktur
- AI‑förstärkta mjukvarutjänster
- AI‑automatiserade robotar och fordon
För att de metoder och lösningar som centret utvecklar ska komma till nytta för samhället har centret ett omfattande program för att utvärdera, testa, och validera resultaten i samverkan med omgivande samhälle.
Aktiviteter
- Strategisk forskningsagenda
- Utbildning och kompetensutveckling
- Policy- och strategirådgivning
- Internationalisering
- Spridning och kommunikation
RESIST fungerar som en nationell samlingspunkt för kompetens inom cyberresilient AI och bidrar till nya kurser och bättre utbildningar, kunskapsspridning genom möten och öppna föreläsningar och policyutveckling genom stöd till beslutsfattare.
För att säkerställa effektiv verksamhet och internationell excellens har centret
en ledning
bestående av föreståndare, verksamhetsledare och biträdande föreståndare
en styrelse
samt
en internationell
vetenskaplig rådgivande kommitté
Kontakt
Forskare vid Linköpings universitet
Forskare vid Lunds universitet
Forskare vid RISE
- Shahid Raza
- Apostolos Pyrgelis
Forskare vid Örebro universitet
Bred samverkan för nyttiggörande
RESIST består av forskare inom
AI‑ och cybersäkerhet från Linköpings universitet, Lunds universitet, RISE och Örebro universitet,
och bygger vidare på styrkor
från två WASP‑cybersäkerhets‑NESTs, två biträdande universitetslektorer vid WASP, en WASP‑gästprofessor samt flera relaterade projekt och nationella initiativ.
Samarbetet har mycket starka
internationella kopplingar, särskilt inom EU, och stöds av ledande företag och organisationer såsom Saab, Ericsson och FOI med flera.
