Hur ska vi bygga förtroende för robotarna?

Redan idag används artificiell intelligens på många områden för att underlätta människans jobb, exempelvis i produktion och vid beslutsfattande. Men framöver kan AI även komma att användas för att vårda människor, och då är det robotar som ska göra jobbet. Två forskare vid Linköpings universitet ska leda ett nytt projekt om förtroende och tillit i förhållandet mellan människa och robot.

Senior woman touching robot finger indoors I framtiden kan vi komma att möta robotar i vårt vardagliga liv. wonry

En robot kan vara allt från en ”låda” som utför arbete i en fabrik till en människolik android. Det finns fluffiga och ulliga robotsälar, robotar som tittar på dig med stora walt-disneybedjande ögon och dockhuvuden med animerade ansikten.

Några av dessa kan bli ett inslag på svenska äldreboenden, i skolor och vid anställningsintervjuer. Men om vi ska överlämna våra barn och föräldrar i robotens vård krävs att vi har förtroende för den.

Ericka Johnson, Tema Genus.Ericka Johnson Foto Charlotte Perhammar– I ett möte mellan en människa och en robot är det intressant att titta på vilka känslor som uppstår. Väcker roboten nyfikenhet, ilska eller glädje? Och hur svarar roboten i sin tur på det människan gör? frågar professor Ericka Johnson, som tillsammans med Katherine Harrison är forskningsledare för ett projekt om artificiell intelligens, etik och förtroende.

Ericka Johnson befinner sig på sitt kontor på institutionen för Tema på Linköpings universitet. Barnvagnen utanför kontoret vittnar om att hon har besök. Därinne sitter även kollegan Katherine Harrisson, hennes en månad gamla bebis samt Brian Cantwell Smith, gästforskare från universitet i Toronto. Dessa forskare ska tillsammans arbeta med det nya AI-projektet och med frågor om hur vi skapar tillit till robotar.

Värderingar och normer kan finnas inbyggda i tekniken

Katherine Harrison, leder ett projekt om AI och sociala konsekvenser.

Robotar i skolan – lärare eller leksak?

En del av projektet på Linköpings universitet ska undersöka användningen av robotar i skolan. I samarbete med ett robotlabb på Uppsala universitet ska linköpingsforskarna testa en humanoid robot på skolor i Uppsala. Roboten ska bland annat undervisa i matematik och elevernas möten med den ska filmas och analyseras.Ericka Johnson och Katherine Harrison, Tema Genus. Foto Charlotte Perhammar

– Robotar presenteras ibland som ett alternativ i undervisningssammanhang. Men om det är ett bra alternativ beror på om roboten kan uppträda på ett sätt som elever tycker är tillförlitligt, säger Katherine Harrison.

Brian Cantwell Smith tillägger att hur användare uppfattar roboten också delvis handlar om vilka föreställningar som användaren har om den.

– Om man tänker på en robot i skolan, är det en lärare man förväntar sig då? Eller är det en leksak? Vår förväntan på roboten påverkar hur väl vi tycker att den lyckas, säger Brian Cantwell Smith.

Forskarna kommer bland annat att undersöka hur programmeringen av roboten görs för att förtroende ska kunna utvecklas mellan människa och maskin. Om en användare svär åt en robot, vad svarar roboten då?

– Det gensvar en robot ger i olika situationer har den programmerats till att ge. Därför ska vi studera hur utvecklare programmerar robotar och vad de tycker är viktigt i robotars kommunikation, säger Ericka Johnson, som tidigare studerat bland annat relationen mellan människa och teknologi.

Normer inbyggda i tekniken

Tekniken blir alltså inte bättre än de människor som skapar den. Ett exempel som diskuterats de senaste åren är att de flesta AI-assistenter är kvinnor. Alexa hjälper Amazons användare, Siri bistår Apples användare och även på banker och i nätshopping är det AI-assistenter i kvinnlig skepnad som står till tjänst.Ericka Johnson och roboten Pepper

– Värderingar och normer kan finnas inbyggda i tekniken. Det är viktigt att vara medveten om, säger Katherine Harrison och gungar barnet lätt.

Det är inte omöjligt att hennes eget barn en dag kommer att möta en robot i skolan eller i äldrevården. I Japan har man sedan länge testat robotar på både äldreboenden och skolor. På äldreboenden har en liten robotsäl fått alzheimerpatienter att öppna sig och bli mer kommunikativa, medan elever i skolan har fått prova på att lära sig engelska med hjälp av en robot.

Katherine Harrison ser positivt på att hennes barn kan komma att undervisas av en robot i vissa ämnen.

– Det kan ha fördelar att barn stöttas av robotar i sin inlärning. Jag ser hur robotdammsugaren vi har hemma väcker nyfikenhet hos min 4-åring och hur han försöker samspela med den. Samtidigt finns det vissa bitar som bekymrar mig, säger Katherine Harrison.

Återigen uppstår frågan om förtroendet för tekniken.

– Det finns idag frågetecken kring hur robotar ska hantera moraliskt svåra situationer som kan uppkomma. Här behöver robotarna utvecklas och tränas. För mig som genusforskare är det också viktigt att roboten programmeras på ett ansvarsfullt sätt så att den inte för vidare förlegade normer kring exempelvis kön, kropp och sexualitet. Men, det är ju där vårt forskningsprojekt kommer in. Jag hoppas att vårt projekt kan bidra till att undvika att stereotypa roller byggs in i tekniken, säger hon.

Tre nya LiU-projekt undersöker AI:s konsekvenser

Det forskningsprojekt som Ericka Johnson och Katherine Harrison nu ska leda ingår i en nationell satsning på artificiell intelligens. Wallenbergstiftelserna finansierar för närvarande 16 forskningsprojekt runt om i landet som ska undersöka vilka konsekvenser AI kan få för samhället. Förutom robotprojektet finansierar Wallenbergstiftelserna två andra projekt vid LiU. Ett om konsumenters tillit för artificiell intelligens och ett om komplexa intelligenta system och framtidens management.

– Det är en uttalad satsning på humaniora och samhällsvetenskap. När robotar inte längre ska fungera som arbetskraft i bakgrunden utan också ska samspela med människor, blir forskare inom samhällsvetenskap viktiga, säger Ericka Johnson.Katherine Harrison, Tema Genus.Katherine Harrison Foto Charlotte Perhammar

Att forskare från olika discipliner som humaniora, samhällsvetenskap och teknikvetenskap möts är av yttersta vikt, menar LiU-forskarna.

– Det är bara genom att samarbeta över gränserna som vi kommer att kunna ge svar på frågorna om hur förtroende, empati och tillit ska skapas i mötet mellan människa och robot, säger Katherine Harrison.

Kontakt
Visa/dölj innehåll

Mer läsning om artificiell intelligens
Visa/dölj innehåll

Relaterat innehåll
Visa/dölj innehåll

Senaste nytt från LiU
Visa/dölj innehåll