12 september 2023

Moraliska överväganden är en av de saker som ett säkert datasystem måste klara av i framtiden. Det anser Erik Sandewall, professor emeritus vid Linköpings universitet.

Porträttbild av Erik Sandewall.
Erik Sandewall. Magnus Johansson
Han blev förstås bestört när han under våren 2023 hörde talas om ett fall där en person begått självmord, kanske på grund av kontakten med en artificiell intelligens som föreslagit det alternativet.

Men han kände igen mönstret. Han kom till Stanford University som doktorand, 1966. Handledare var professor John McCarthy, känd för att ha myntat begreppet Artificial Intelligence (AI).

Det är nu en bra bit över 50 år sedan Erik Sandewall för första gången stötte på ett program som kan ”prata” med användaren.

En sofistikerad spegel

− Man använder sig av en personlighet som kan vara deltagande. Enklare sådana system gjordes på MIT och Stanford i slutet av 1960-talet. De påminde lite om Apples digitiala tjänst "Siri", berättar Erik Sandewall.

Foto Magnus Johansson
Tillsammans med kollegorna på Stanford University roade sig Erik Sandewall med att ”prata” med ett sådant program. De försökte ofta att provocera fram spännande svar.

− Man förstod vad den gjorde. Den var en sofistikerad spegel. Om man sa: ”Jag är ledsen för något” så speglade programmet tillbaka: ”Finns det något mer som gör dig ledsen?”

När de fick fram en rolig dialog så satte de upp den på anslagstavlan i labbet.

Hur påverkades ni själva av den här kontakten?
− Det var en aha-upplevelse … att man kan reagera så i en kontakt med en maskin! Den skapade ett engagemang. Om vi fångades så enkelt, då förstår man att det går att få en starkare relation om man till exempel är psykiskt labil. Det här har ju givetvis blivit mycket mera finkänsligt under de senaste 50 åren.

"Please go ahead"

En gång bestämde sig Erik Sandewall för att ta i rejält. Han skrev ungefär: ”Om du inte uppför dig anständigt så kommer jag att slå ihjäl dig”.

− ”Please go ahead”, blev svaret. Det var vanligt när programmet inte hade något svar. Då skrev jag ”ctrl/c/kjob” och avslutade jobbet. Den pappersremsan på anslagstavlan blev ett gott skratt för många!
 
Kommandot för att avsluta en process är ”ctrl/c/kjob” och betyder kort sagt “kill job”.

Ny dag, nya möjligheter

Erik Sandewall har något lekfullt, nyfiket i blicken. En känsla av att varje dag har nya möjligheter. Han har haft fötterna i datavetenskapen sedan 1960-talet, och beskrivs ofta som Sveriges första AI-professor. Han kom till Linköpings universitet som ny professor 1975. Han var med och grundade institutionen för datavetenskap (IDA) i sin nuvarande form, 1983.

Vi insåg tidigt att
AI kunde vara lösningen  

− Det har varit intressant, hela tiden. Rekryteringarna gick jättebra. Vår organisation var modern. Vi kunde erbjuda unga talanger en lektorstjänst och en egen forskningsgrupp. Det var ett vinnande koncept, säger han.

En del av hans egen forskning har varit kopplad till utveckling av olika typer av affärssystem och administrativa system. De insåg att systemen behöver en förmåga att interagera med användaren. De befintliga systemen var krångliga.

− Vi förstod att det borde vara ett krav på de administrativa datasystemen att användaren kan gå in och ställa frågor. Och få ett svar direkt, av systemet. Vi insåg tidigt att AI kunde vara lösningen.

ChatGPT

Erik Sandewall ansåg också att det inte gick att separera AI från annan datalogi på ett svenskt universitet, där resurserna inte var oändliga.

− Det skulle ha varit ett totalt misstag om vi hade haft forskning och utbildning inom AI och sedan programmering på sidan av. Vi behövde forskning på både AI, programmeringssystem, databaser och till exempel programmeringsspråk.

− Språk som har särskilda egenskaper för AI hade även stora fördelar för annan programutveckling.

Intelligens är så mycket mera komplicerat än ChatGPT 

Intelligens är något mycket komplicerat. Det understryker Erik Sandewall flera gånger. Ändå är det lockande att tänka sig att datavetenskapen kan återskapa intelligens.

− Problemet är att intelligens är så mycket mera komplicerat än ChatGPT som just nu beskrivs som någonting väldigt intelligent. Den använder AI-teknik och förmågan att hantera stora mängder information. Och plockar ihop något som låter vettigt. Men man kan inte dra slutsatsen att ett system är intelligent i generell bemärkelse. Det handlar om vissa aspekter av intelligens och viss inlärning.

Ett sätt att se på intelligens är att den ska kunna dra slutsatser och att göra bedömningar utifrån situationer.

− Om man ser intelligens hos människor som exakt detta, då ser jag inte några skäl till att man inte på längre sikt kan få datorsystem att göra motsvarande. Men då kvarstår det svåra begreppet intuition. Man tycker att människor har förmåga att komma till slutsatser och att göra bedömningar utan resonera, och utan att härleda till några abstrakta principer. Det säger bara klick. Det kanske är en kombination. Men den typen av intuition tycks vara en viktig del av den moraliska kompassen i oss.

− Frågan är hur man får en motsvarighet till detta i våra datorer. Det finns teorier om det men inga bra svar, inget som jag känner till i varje fall.

Varför är det viktigt?
− Det är en viktig pusselbit om man ska återskapa mänsklig intelligens. Det är också en stor del av mysteriet, och som vi inte har inom synhåll. Jag tror att det kommer att dröja generationer innan vi har löst detta.

Varför behöver en dator ha moral?
− Ett datasystem måste i någon bemärkelse förstå de uppdrag det ska utföra, och då ingår ofta en moralisk aspekt. Den kan inte bara vara ytlig: ”Du får inte göra si, du får inte göra så”. Systemet behöver kunna värdera konsekvenserna relativt ett antal moraliska principer.

Många tänker inte på att AI-teknik är en samling av olika tekniker, som exempelvis inlärning, mönsterigenkänning och hantering av stora datamängder. Men också diagnos och planering och att för en given målsättning identifiera en följd av handlingar. Samt att lära av sina misstag och att ändra planen.

Bara delar av intelligens

− Varje förmåga för sig kan fungera utmärkt för sitt ändamål. Det är då vi luras att tro att en AI är extremt intelligent och snart kommer att hota mänskligheten. Men det är hittills ingen som kommit nära en kombination av människohjärnans alla förmågor.

Han hänvisar till vetenskapliga organisationen American psychology association och dess definition av intelligens som en kombination av många förmågor.

Det är en oro som
kommer tillbaka 
− Försöken att kategorisera alla förmågor slutar oftast i att det blir för mycket att ta hänsyn till. Varje förmåga för sig kan man testa och dela upp. För några år sedan talade man om AI som en ”big switch” där man bara kopplade in en förmåga i taget. Men det är väldigt lätt att konstruera fall där man behöver flera förmågor samtidigt. Det är också oklart om de mänskliga förmågorna hänger samman. Förstärker de varandra?

Skräcken för många människor är en intelligens som plötsligt agerar självständigt, kan fatta helt egna beslut och bygga ut sig själv. Att maskinerna tar över.

− Det är en oro som kommer tillbaka med jämna mellanrum. Begreppet AI-vinter bygger på den här oron. Under 70-talet kom det många sådana tankar som gjorde att forskarna höll tillbaka, och finansieringen minskade. Rädslan för maskinernas övertagande och kritiken blev för stor.

Drabbade AI-vintern även dig?
− Ja, vi påverkades av de där strömningarna. Forskningen fortsatte, men kanske något försiktigare. De positiva effekterna av forskning kan ju faktiskt vara betydligt större än de negativa, säger han.

Vad skulle kunna leda oss in i en ny AI-vinter?
− En brist på förtroende för tekniken, om något går riktigt fel. Eller till exempel chattbotar i en webbshop. Som kund kanske man föredrar mänsklig kontakt, för att chattboten svarar bristfälligt eller konstigt. Det skulle kunna slå emot de användningarna och i längden mot AI i allmänhet.

Har du några egna farhågor för framtiden?
− De totalitära tendenserna i Kina och Ryssland är oroväckande. Det som Putin gör nu kan han göra helt utan artificiell intelligens. Men kommer AI in så blir det nog ännu värre.

Ansiktsigenkänning

Ansiktsigenkänning är ett exempel på saker som en totalitär stat kan använda mot medborgarna. Forskningen måste fortsätta, men tillämpningarna bör kontrolleras, enligt Sandewall.

Tycker du att AI ska regleras av statsmakterna eller av industrin?
− Det omedelbara svaret måste vara statsmakten … annars är risken att det blir oaktsamt. Det måste finnas ett statligt regelverk i botten. Men frågan är om det är politiskt hållbart med ett samhälle där företagen inte är ansvarstagande. Riktigt stora företag måste ha en egen seriöst menad etisk uppfattning.

Korridorerna på Campus Valla känner han väl till. Han jobbar nu med att sortera tusentals dokument från sina många år som forskare vid Linköpings universitet. Han har haft tid på sig att tänka efter. Och han är alldeles övertygad om att moraliska överväganden måste komma högt upp på agendan i IT-utvecklingen.

− Etik är att ha tillvägagångssätt så att man inte behöver ångra sig senare, säger han och låter de orden sjunka in en stund.

Fakta

Erik Sandewall

Erik Sandewall var med och grundade institutionen för datavetenskap  (IDA) vid Linköpings universitet, 1983.

Han var key note speaker på IDA:s 40-årsjubileum 19 juni 2023.

Erik Sandewall är en av Sveriges mest framstående forskare inom ämnet artificiell intelligens. 

1975 blev han professor vid Linköpings universitet och därmed Sveriges första professor i ämnet datalogi.


Staty på Erik Sandewall med byggnader i bakgrundenStaty av Erik Sandewall, utanför E-huset på Campus Valla vid Linköpings universitet.

Foto Jonas Järmen
Han studerade vid Uppsala universitet och disputerade 1969 i informationsbehandling.

Han har varit
gästforskare vid Stanford University, vid MIT och vid LAAS i Toulouse.

Han är ledamot av Kungliga Vetenskapsakademien sedan 1992 och av Kungliga Ingenjörsvetenskapsakademien sedan 1981.

Erik Sandewall är riddare av Hederslegionen och hedersdoktor vid Université Paul Sabatier, Toulouse.

Läs mer om talare och presentationer på IDA:s jubileumskonferens

Kontakt

Läs mer om artificiell intelligens på LiU

Mer om Institutionen för datavetenskap

Senaste nytt från LiU

Per Frankelius och Karolina Muhrman på en åker framför en jordbruksmaskin.

Nationellt kunskapsnav för jordbrukets digitalisering hamnar på LiU

Jordbruksverket utser Linköpings universitet att ansvara för ett nytt nationellt kunskapsnav för digitalisering inom jordbruket. Projektet sträcker sig över 3 år och har en budget på 20 miljoner kronor.

LiU-professor bidrar till en ny ISO-standard i världen

Det finns hundratals definitioner av cirkulär ekonomi i världen, vilket skapar förvirring. LiU-forskning med professor Mattias Lindahl i spetsen, har bidragit till att en ny ISO-standard kan råda bot på detta.

Specialistkompetens med nytt masterprogram i socialt arbete

Med start hösten 2024 finns ett nytt masterprogram i socialt arbete på Campus Norrköping. Här förbereds studenter för att kunna arbeta med övergripande utvecklings- och förändringsprocesser och kvalificerade utredningar inom socialt arbete.