Att operationalisera etik för AI

Futuristisk ljusmålning av ett kvinnaporträtt, ådror av fiberoptiskt ljus genom hennes ansikte.

Hur kan vi påverka de konstant utvecklande AI-infrastrukturerna för att ta tillvara på deras fördelar samtidigt som vi förhindrar dem från att utnyttja människor?

De mest trängande frågorna inom AI-utveckling idag kan kartläggas till tre "luckor" när det gäller förhandlingar om etiska och moraliska överväganden: översättning, implementering och ansvar. Fast i översättningsluckan kämpar många teknologer med att förstå om och hur något kan vara eller kan bli en etisk fråga. Även när dessa frågor erkänns och diskuteras som potentiellt etiskt problematiska, gör implementeringsklyftan det svårt att hantera dem i praktiken och i kod eftersom det finns en mängd verktyg men få tydliga tillvägagångssätt. Slutligen manifesteras problemet med ansvarsluckan i bristen på en tydlig ansvarsram inom företag och organisationer som producerar teknologi, liksom bland de intressenter som beställer, implementerar och använder den. "Operationalisering av etik för AI" samlar ett erfaret tvärvetenskapligt team för att hantera dessa tre luckor.

Två fallstudier

  1. Förklarbarhet: AI-drivna system är ofta icke-transparenta och det kan vara svårt att förstå hur och varför beslut fattas. Genom att kritiskt granska det växande området Förklarbar konstgjord intelligens (XAI) frågar detta projekt vad som bör förklaras för vem, hur och i vilket syfte?
  2. Syntetiska data: hur kan vi bäst nyttja AI för att upptäcka mönster i datamängder, samtidigt som vi tar hänsyn till säkerhets- och integritetsfrågor inom sektorer som hälso- och sjukvård? Kan syntetisk data vara svaret? Detta projekt kommer att undersöka vilka skapade verkligheter som konstrueras med hjälp av syntetiska data, vad de förväntas uppnå och för vem.

Undersökningar av detta slag som berör de etiska, ekonomiska, sociala och juridiska aspekter som kan följa med den pågående teknologiska förskjutningen i samhället, utgör kärnan i WASP-HS-programmet.

Workshop-serie om syntetisk data

Denna workshop-serie kommer att ta upp risker, möjligheter och potential hos syntetisk data inom olika tillämpningsområden. Med den alltmer komplicerade regleringsmiljön kring dataanvändning och AI-system är det en viktig fråga att identifiera vilka risker som kan adresseras, skapas eller möjliggöras genom syntetisk data. Även om det finns stor entusiasm för syntetisk data inom maskininlärningsgemenskapen, finns det också oro och försiktighet. Det finns en ökande tillgänglighet av bibliotek och processer för att generera syntetisk data till den tekniska gemenskapen. Dessa lovar att överkomma de tre stora utmaningarna inom integritet, snedvridning och brist på data, men detta kräver en kritisk diskussion om hur och i vilken utsträckning dessa utmaningar faktiskt hanteras. Vi strävar efter att diskutera den aktuella statusen för syntetisk data samt vilka kritiska, juridiska och etiska frågor dessa tekniker kan möta.

För ytterligare information, kontakta Katherine Harrison eller Irina Shklovski.

Workshop 1:
"Synthetic data in the medical domain"

Torsdag 16 november 2023, 9-12,
Köpenhamns universitet (Campus Amager )

Workshop 2:
"Synthetic data in smart cities/digital twins"

Onsdag 29 November 2023, 9-12,
Linköpings universitet (Campus Valla)
- i samarbete med Temas DataLab.

Workshop 3:
"Synthetic Data for Social Science Research"

Onsdag 10 April 2024, 13-15,
Linköpings universitet (Campus Valla)
- i samarbete med Temas DataLab.

Workshop 4:
"Synthetic census data"

Måndag 10 Juni 2024, 13-16,
Linköpings universitet (Campus Norrköping)

Kontakt

Relaterad forskning

Organisation