Samarbete för en mindre fördomsfull värld

– En hel del av det vi försöker åstadkomma kan potentiellt förändra maktstrukturerna i samhället, menar professor Ericka Johnson som är samhällsvetare med intresse för teknikens konsekvenser.

Hon sitter med kollegorna universitetslektor Katherine Harrison och postdoktor Tahereh Dehdarirad runt ett bord på Tema Genus i Linköping. Tillsammans försöker de beskriva det där gränslandet där teknik och samhällsvetenskap möts och påverkas av varandra.

Forskningen på Tema Genus rör maktförhållanden i samhället och hur olika faktorer samspelar. Ofta med fokus på kön och könsidentitet, men också aspekter som etnicitet och global ojämlikhet. Tekniken står ju inte fri och oberoende från det där, säger de. Den finns alltid inbäddad i ett sammanhang.

Risk för cementering av orättvisor

Samtalet glider in på problemet med den data som används för att träna en AI. Den kan vara ofullständig på olika sätt. Ett välkänt exempel är hur medicinska studier under lång tid oftare gjorts på män än på kvinnor och att data därför inte är representativ. Ett annat problem är att stora mängder relevant data inte kan användas eftersom den innehåller känsliga personuppgifter eller hålls hemlig av privata företag.

Konsekvensen kan bli att AI bidrar till att cementera orättvisor och fördomar.

En lösning som Ericka Johnson och Katherine Harrison intresserar sig för är det som kallas syntetisk data. Den skapas med hjälp av AI för att statistiskt efterlikna egenskaper och mönster hos verklig data.

I och med att den syntetiska datan är lik men inte identisk kan man komma undan integritetsproblemet. Den skulle också kunna användas för att på konstgjord väg skapa de enorma datamängder som behövs för att träna en AI om det inte finns tillräcklig mängd riktig data. Eller för att komplettera ett material som till exempel innehåller för få kvinnor.

– En tanke som diskuteras nu är om syntetiska data skulle kunna användas inom samhällsvetenskaperna. Men en del forskare är mycket skeptiska, säger Katherine Harrison.

Att förklara AI

För om nu finessen med syntetisk data är att den är lik men inte identisk – hur olik originalet får den vara för att fortfarande vara användbar? Och hur ser man till att skevheter i ursprungsmaterialet inte återupprepas i det syntetiska?

Tahereh Dehdarirad förkroppsligar mötet mellan två vetenskapsgrenar. Hon är samhällsvetaren som också är datavetare. Enkelt beskrivet går en del av hennes forskning ut på att förklara hur en AI kommer fram till sina svar. Med ett engelskt begrepp heter det explainability in AI.

– Vi vill identifiera skevheter och sedan skapa syntetisk data som korrigerar dem, förklarar Tahereh Dehdarirad.

Det som väljs eller väljs bort

Vi förflyttar oss till Avdelningen för  medie- och informationsteknik  i Norrköping och professor Miriah Meyer som forskar kring visualisering av data. Hon har samarbetat med biologer, meteorologer, hälsoexperter och till och med poeter för att hjälpa dem att skapa bilder av sina resultat. Det fick henne att börja fundera. Bilderna kan vara tydliga och slagkraftiga, men ger de en sann bild av världen?

 

– Det vi skapar är inte en objektiv bild av data. Det är gjort utifrån vad jag tycker är viktigt att visa, vilket i sin tur påverkas av hur jag är upplärd, säger Miriah Meyer.

Men vad händer med osäkerheter i materialet när det visualiseras? Vad väljs ut och vad väljs bort? Och varför?

Det här är sådant som hon sedan flera år diskuterar med kollegorna på Tema Genus. Nästa år ska hon och Katherine Harrison undervisa ihop. Studenter från humaniora och samhällsvetenskap ska tillsammans med ingenjörsstudenter få vrida och vända på frågorna. Men Miriah Meyer vill också utmana dem att komma med förslag på hur man kan hantera svårigheter med data.

Gnissel i gränslandet

För även om hon uppskattar samhällsvetarnas många kritiska frågor mycket, så kan hon ibland bli lite frustrerad över att de levererar färre förslag på lösningar. Och på möten känner hon sig ofta manad att försvara sitt eget vetenskapsområde. Trots problemen har ändå teknik och naturvetenskap givit stora framsteg.

Och på Tema Genus håller man med om att det inte är helt lätt när olika vetenskapstraditioner ska mötas. Naturvetenskapens krav på att resultat ska vara objektiva, kunna upprepas och generaliseras skaver mot samhällsvetenskapens övertygelse om att kunskap alltid står i relation till värderingar i samhället.

– Det är en utmaning! Vi måste vara mycket transparenta med vad vi menar med våra olika begrepp, eftersom vi ibland menar olika saker med våra termer. Men vi har haft stor tur som hittat samarbetspartners som varit nyfikna och mycket öppna för att släppa in oss i deras värld, säger Katherine Harrison.