WASP Humaniora och samhälle (WASP HS) vid TEMA och IEI

Om WASP HS vid TEMA och IEI

Autonomi och AI är inte bara teknik. Marianne och Marcus Wallenbergs stiftelse finansierar 16 forskningsprojekt som studerar hur AI och autonoma system påverkar samhället och våra beteenden. Två av projekten finns vid LiU, på Institutionen för Tema (TEMA) och Institutionen för ekonomisk och industriell utveckling (IEI).

WASP-HS programmet, där HS står för humaniora och samhälle, är planerat att pågå under 2019 – 2028 och bildar ett oberoende och parallellt program till WASP, men med en nära dialog med WASP-programmet. Totalt investerar Wallenbergfonderna 660 miljoner inom WASP-HS. Värduniversitet för programmet är Umeå universitet.

Programmet är tvärvetenskapligt där humaniora och samhällsvetenskap kombineras med teknisk forskning. I WASP-HS ingår även en forskarskola med 70 doktorander och målet är att rekrytera minst tio nya forskargrupper och tolv gästprofessorer. En viktig del av programmet är det internationella samarbetet.

Marianne och Marcus Wallenbergs Stiftelse har beviljat 96 miljoner kronor till 16 forskningsprojekt inom ramen för WASP-HS. Mer information finns på WASP-HS (extern länk). 

Projekten vid LiU har båda beviljats 6 miljoner kronor under fem år. På den här sidan kan du läsa om de två projekten:

  • Etik ock konsekvenser av AI och robotar i vården
  • Uppkomsten av komplexa intelligenta system och framtidens management

För mer information om hela WASP på LiU, gå upp en nivå i menyn till WASP - Wallenberg AI, Autonomous Systems and Software Program. Där finns också en kontaktlista på alla WASP-forskare vid LiU uppdelade per institution.

Kontakt WASP HS

Etik ock konsekvenser av AI och robotar i vården

Robotar har tagit klivet in i våra hem, snart stöter vi på dem i vården. Projektet ska genom tre fallstudier studera om och hur vi kan bygga relationer med sociala robotar som bygger på tillit, empati och ansvarstagande.

Katherine Harrison och Pepper.

Om forskningsprojektet

Vi har länge fascinerats av robotar och även bekymrats över dem. I Science fiction-litteraturen finns många exempel på robotar som tagit över världsherraväldet och många forskare 

Ericka Johnson samtalar med Pepperoch andra tänkare har uttryckt farhågor för vad som händer när robotar gör sitt intåg på arbetsmarknaden. Vi har också varnats för hur robotar påverkar våra liv och relationer.
Undersökningar har också gjorts kring hur vi tänker på oss själva relation till robotarna.
Men för många av oss är robotar fortfarande science fiction och inget vi interagerar med på en individuell och emotionell nivå. Vi kan tänkas ha en robotdammsugare hemma, som kanske till och med fått ett namn, men därifrån till att anställa en autonom hushållsrobot som en del av familjen är steget långt (som Rosie, robotpiga i The Jetsons).

Robotar i vardagen

Det här håller på att ändras. Robotar har tagit steget in i vårt dagliga liv. Vi och våra barn kommer att behöva interagera med robotar allt eftersom de dyker upp i vården, under livets olika skeden. Hur kommer detta att påverka hur vi - och robotarna - ser på vård? Och hur ska vi skapa gemensamma relationer som bygger på tillit, empati och ansvarstagande?

Detta tvärvetenskapliga projekt, som finansieras av Marianne och Marcus Wallenbergs stiftelse är en del av WASP HS. Projektet samlar robotutvecklare, dataforskare, forskare inom teknikens påverkan på samhället samt forskare med erfarenhet av etnografiska studier av affektiv människa-maskin-interaktion.

Vi kommer att studera tre fall av utveckling av robotar i den tidiga testfasen, fallstudie;

  1. Robothandledare, Social Robotics Lab, Uppsala.
  2. Robotintervjuare, Fur Hat, Stockholm.
  3. Omvårdnadsrobot för äldre, Machine Perception and interaction Lab, Örebro.

Extern partner

Ginevra Castellano, Senior lecturer, Social Robotics Lab, Uppsala University

Referensgrupp

  • Brian Cantwell Smith, Reid Hoffman Professor of Artificial Intelligence and the Human at the University of Toronto, Canada.
  • Lucy Suchman, Professor emeritus in the Sociology Department and the Centre for Science Studies at Lancaster University, UK.
  • Erik Sandewall, Professor emeritus, Linköping University, Sweden
  • Gabriel Skantze, Chief Scientist at Furhat Robotics and Professor in Speech Communication and Technology, KTH, Stockholm.
  • Jennifer Rhee, Associate Professor, English, Virginia Commonwealth University, USA

Nätverk

Att operationalisera etik för AI

Hur kan vi påverka de konstant utvecklande AI-infrastrukturerna för att ta tillvara på deras fördelar samtidigt som vi förhindrar dem från att utnyttja människor?

Futuristisk ljusmålning av ett kvinnaporträtt, ådror av fiberoptiskt ljus som passerar genom hennes ansikte.Futuristic l

Om forskningsprojektet

De mest trängande frågorna inom AI-utveckling idag kan kartläggas till tre "luckor" när det gäller förhandlingar om etiska och moraliska överväganden: översättning, implementering och ansvar. Fast i översättningsluckan kämpar många teknologer med att förstå om och hur något kan vara eller kan bli en etisk fråga. Även när dessa frågor erkänns och diskuteras som potentiellt etiskt problematiska, gör implementeringsklyftan det svårt att hantera dem i praktiken och i kod eftersom det finns en mängd verktyg men få tydliga tillvägagångssätt. Slutligen manifesteras problemet med ansvarsluckan i bristen på en tydlig ansvarsram inom företag och organisationer som producerar teknologi, liksom bland de intressenter som beställer, implementerar och använder den. "Operationalisering av etik för AI" samlar ett erfaret tvärvetenskapligt team för att hantera dessa tre luckor.

Två fallstudier

  1. Förklarbarhet: AI-drivna system är ofta icke-transparenta och det kan vara svårt att förstå hur och varför beslut fattas. Genom att kritiskt granska det växande området Förklarbar konstgjord intelligens (XAI) frågar detta projekt vad som bör förklaras för vem, hur och i vilket syfte?
  2. Syntetiska data: hur kan vi bäst nyttja AI för att upptäcka mönster i datamängder, samtidigt som vi tar hänsyn till säkerhets- och integritetsfrågor inom sektorer som hälso- och sjukvård? Kan syntetisk data vara svaret? Detta projekt kommer att undersöka vilka skapade verkligheter som konstrueras med hjälp av syntetiska data, vad de förväntas uppnå och för vem.

Undersökningar av detta slag som berör de etiska, ekonomiska, sociala och juridiska aspekter som kan följa med den pågående teknologiska förskjutningen i samhället, utgör kärnan i WASP-HS-programmet.

Uppkomsten av komplexa intelligenta system och framtidens management

Det sätt vi närmar oss AI och implementeringen i komplexa system kommer att ha en stor betydelse för vår förmåga att dra nytta av AI:s fördelar, samtidigt som vi undviker de negativa konsekvenserna. AI är således betydligt mer än teknik.

Auguste Rodins Tänkaren i robotgestalt. Foto Hans Andersen samt iStock/mennovandijk

Om forskningsprojektet

Industriföretag och andra organisationer är betydelsefulla aktörer i detta och en förståelse för hur de kan koordinera och organisera sina aktiviteter, både inom den egna organisationen och utåt, är viktigt för att AI kan bidra till förbättringar i samhället. Det här projektet ska bidra till industrins och samhällets utveckling inom området genom att undersöka hur management bör utvecklas.

Projektet har tre forskningstema:
1. Beslutsfattande under relativt okända förutsättningar. I det här temat undersöks hur framtidens beslutsfattande i relation till de komplexa intelligenta systemen kan se ut. Vi kommer att undersöka det dynamiska förloppet kring beslutsfattande, till exempel vad man kan besluta om, vem fattar besluten, var och när fattas beslut avseende utveckling av komplexa intelligenta system?

2. Organisationen och dess interaktion med omgivande ekosystem. I detta tema analyseras hur kopplingen mellan systemarkitekturen och hur organisationen kan utformas för komplexa intelligenta system. Detta är system som använder systemarkitekturer i flera nivåer, och som möjliggör bidrag från nya typer av aktörer, som datafabriker eller algoritmleverantörer.

3. Ledning och beslutsfattande när systemets komplexitet är så stor att den går utöver de mänskliga kognitiva förmågorna. Det här temat belyser hur den ökade komplexiteten kräver en expanderad rationalitet och hur alltmer intelligenta verktyg i samverkan med människan kan åstadkomma detta.

 

Följ forskargruppens blogg

Senaste publikationerna

2023

Youshan Yu, Nicolette Lakemond, Gunnar Holmberg (2023) AI in the Context of Complex Intelligent Systems: Engineering Management Consequences IEEE transactions on engineering management Vidare till DOI

2022

Nicolette Lakemond, Gunnar Holmberg (2022) The quest for combined generativity and criticality in digital-physical complex systems Journal of engineering and technology management, Vol. 65, Artikel 101701 Vidare till DOI
Adalberto Franca, Nicolette Lakemond, Gunnar Holmberg (2022) The coordination of technology development for complex products and systems innovations Journal of business & industrial marketing, Vol. 37, s. 106-123 Vidare till DOI