Vid föreläsningen medverkade Nicolette Lakemond, professor i industriell organisation och Gunnar Holmberg, adjungerad professor vid avdelningen för Projekt, innovationer och entreprenörskap. Föreläsningen är en del av föreläsningsserien "Research just around the corner", som under höstterminen 2023 fått temat "AI & språkmodeller - framtiden är här".
AI:s dualitet: Möjligheter och utmaningar
Föreläsningen inleddes med en diskussion om dualiteten hos AI. Å ena sidan innebär AI möjligheter till omvälvande förändringar och samhällsnytta. AI kan exempelvis förbättra vården i regioner med begränsad tillgång till sjukvårdspersonal, underlätta flerspråkig kommunikation och minska matsvinnet. När AI används på rätt sätt kan det bidra till att lösa några av de mest akuta problemen som vår värld står inför.
Å andra sidan är utmaningarna med AI lika omfattande som möjligheterna. Föreläsningen belyste risken för att AI-system skulle kunna upprepa och befästa fördomar i historisk data, vilket skulle leda till AI-system som reflekterar mänskliga fördomar och ojämlikheter. Frågan om huruvida och i vilken utsträckning man faktiskt kan lita på AI är viktig. Detta dualistiska perspektiv visar hur viktigt det är att hitta en balans i hur vi närmar oss AI.
AI och management: En komplex relation och ett komplicerat system
Föreläsningen gick sedan in på managements roll i organisationer som formar AI-system.
Nicolette Lakemond, professor i industriell organisation. Foto Teiksma Buseva
– Management har en avgörande roll när det gäller att maximera samhällsfördelarna med AI samtidigt som riskerna minimeras. Att hantera dessa utmaningar kräver management, men inte enbart - det kräver också samhällsengagemang och ett helhetsperspektiv, säger Nicolette Lakemond.
Professor Gunnar Holmberg drog paralleller till den oro för olika systems komplexitet som uppstod förr. Han förklarar att det för några decennier sedan, efter allvarliga olyckor på exempelvis en kemisk fabrik i Bhopal, på rymdfärjan Challenger och vid kärnkraftverket Three Mile Island, väcktes en oro kring systemens ökande komplexitet och därmed en ökad risk för katastrofer. På den tiden förlitade man sig i stor utsträckning på operatörernas förmåga att hantera svåra situationer. Vi har dock inte sett någon ökning av sådana katastrofer, något man antar beror delvis på att teknik och systemdesign länge har fokuserat på att förenkla driften av systemen och att göra dem säkrare.
Gunnar Holmberg, adjungerad professor vid avdelningen för Projekt, innovationer och entreprenörskap. Foto Teiksma Buseva
– AI ökar systemens komplexitet ytterligare, och när system utvecklas till system av system som agerar i en dynamisk kontext kommer vi sannolikt att se stora ansträngningar göras för att möta dessa problem, i takt med att de komplexa systemen blir allt intelligentare, säger Gunnar Holmberg.
Organisatoriska utmaningar och möjligheter
Nicolette Lakemond och Gunnar Holmberg betonade att AI medför organisatoriska frågor som rör människors och AI:s respektive roller. Detta kräver en balans mellan specialisering och integration och mellan mänsklig auktoritet och systemautonomi. I takt med att systemens komplexitet ökar, måste organisationer tänka på sitt bredare samhällsansvar och anpassa sig till nya metoder för både management och organisation.
– Även om management kan hjälpa till att navigera dessa komplexa frågor, kan den inte stå för alla lösningar. Förmågan att navigera och anpassa sig är avgörande, avslutar Nicolette Lakemond.