Verifikation av lärande mjukvara för säkerhetskritiska system

Projektet syftar till att utöka dagens metoder för att säkerställa att säkerhetskritiska system ska kunna användas i framtiden, även med inslag av maskininlärning.

Säkerhet i lärande system.Autonoma system som använder sig av maskininlärning kommer i framtiden oundvikligen att användas i miljöer där människor eller miljö kan komma till skada. Projektet ska studera formella verifikationstekniker och även utveckla nya metoder som kan säkerställa att systemen beter sig som det är avsett.

Intressanta egenskaper är robusthet, beslutsförmåga och korrekthet i förhållande till den avsedda funktionen.

Forskare

Simin Nadjm-Tehrani

Professor, Enhetschef

John Törnblom

Extern partner

Saab group

Publikationer

2020

2019

WASP forskning

Realtidsystem

Förstå resultaten från djup inlärning

I detta projekt strävar vi efter att förstå och analysera djupa inlärningssystem och få begripliga resultat. Specifikt utforskar vi en ny teknik för symbolisk representation av abstraktioner.

WASP Realtidsystem

Forskningen vid laboratoriet för realtidssystem omfattar säkerhet och pålitlighet i distribuerade datorsystem, inte minst i system som är samhällskritiska. Vi forskar kring områden som säkerhet, tillförlitlighet, tillgänglighet och integritet.

WASP - Wallenberg AI, Autonomous Systems and Software Program

Den fjärde industriella revolutionen är här när automation övergår i autonomi. LiU har framstående forskning inom flera av de områden som är centrala inom Wallenberg AI Autonomous Systems and Software Program, WASP.