Han blev förstås bestört när han under våren 2023 hörde talas om ett fall där en person begått självmord, kanske på grund av kontakten med en artificiell intelligens som föreslagit det alternativet.
Men han kände igen mönstret. Han kom till Stanford University som doktorand, 1966. Handledare var professor John McCarthy, känd för att ha myntat begreppet Artificial Intelligence (AI).
Det är nu en bra bit över 50 år sedan Erik Sandewall för första gången stötte på ett program som kan ”prata” med användaren.
Foto Magnus Johansson
Tillsammans med kollegorna på Stanford University roade sig Erik Sandewall med att ”prata” med ett sådant program. De försökte ofta att provocera fram spännande svar.
− Man förstod vad den gjorde. Den var en sofistikerad spegel. Om man sa: ”Jag är ledsen för något” så speglade programmet tillbaka: ”Finns det något mer som gör dig ledsen?”
När de fick fram en rolig dialog så satte de upp den på anslagstavlan i labbet.
Hur påverkades ni själva av den här kontakten?
− Det var en aha-upplevelse … att man kan reagera så i en kontakt med en maskin! Den skapade ett engagemang. Om vi fångades så enkelt, då förstår man att det går att få en starkare relation om man till exempel är psykiskt labil. Det här har ju givetvis blivit mycket mera finkänsligt under de senaste 50 åren.
− ”Please go ahead”, blev svaret. Det var vanligt när programmet inte hade något svar. Då skrev jag ”ctrl/c/kjob” och avslutade jobbet. Den pappersremsan på anslagstavlan blev ett gott skratt för många! Kommandot för att avsluta en process är ”ctrl/c/kjob” och betyder kort sagt “kill job”.
− Det har varit intressant, hela tiden. Rekryteringarna gick jättebra. Vår organisation var modern. Vi kunde erbjuda unga talanger en lektorstjänst och en egen forskningsgrupp. Det var ett vinnande koncept, säger han.
En del av hans egen forskning har varit kopplad till utveckling av olika typer av affärssystem och administrativa system. De insåg att systemen behöver en förmåga att interagera med användaren. De befintliga systemen var krångliga.
− Vi förstod att det borde vara ett krav på de administrativa datasystemen att användaren kan gå in och ställa frågor. Och få ett svar direkt, av systemet. Vi insåg tidigt att AI kunde vara lösningen.
− Det skulle ha varit ett totalt misstag om vi hade haft forskning och utbildning inom AI och sedan programmering på sidan av. Vi behövde forskning på både AI, programmeringssystem, databaser och till exempel programmeringsspråk.
− Språk som har särskilda egenskaper för AI hade även stora fördelar för annan programutveckling.
Intelligens är något mycket komplicerat. Det understryker Erik Sandewall flera gånger. Ändå är det lockande att tänka sig att datavetenskapen kan återskapa intelligens.
− Problemet är att intelligens är så mycket mera komplicerat än ChatGPT som just nu beskrivs som någonting väldigt intelligent. Den använder AI-teknik och förmågan att hantera stora mängder information. Och plockar ihop något som låter vettigt. Men man kan inte dra slutsatsen att ett system är intelligent i generell bemärkelse. Det handlar om vissa aspekter av intelligens och viss inlärning.
Ett sätt att se på intelligens är att den ska kunna dra slutsatser och att göra bedömningar utifrån situationer.
− Om man ser intelligens hos människor som exakt detta, då ser jag inte några skäl till att man inte på längre sikt kan få datorsystem att göra motsvarande. Men då kvarstår det svåra begreppet intuition. Man tycker att människor har förmåga att komma till slutsatser och att göra bedömningar utan resonera, och utan att härleda till några abstrakta principer. Det säger bara klick. Det kanske är en kombination. Men den typen av intuition tycks vara en viktig del av den moraliska kompassen i oss.
− Frågan är hur man får en motsvarighet till detta i våra datorer. Det finns teorier om det men inga bra svar, inget som jag känner till i varje fall.
Varför är det viktigt?
− Det är en viktig pusselbit om man ska återskapa mänsklig intelligens. Det är också en stor del av mysteriet, och som vi inte har inom synhåll. Jag tror att det kommer att dröja generationer innan vi har löst detta.
Varför behöver en dator ha moral?
− Ett datasystem måste i någon bemärkelse förstå de uppdrag det ska utföra, och då ingår ofta en moralisk aspekt. Den kan inte bara vara ytlig: ”Du får inte göra si, du får inte göra så”. Systemet behöver kunna värdera konsekvenserna relativt ett antal moraliska principer.
Många tänker inte på att AI-teknik är en samling av olika tekniker, som exempelvis inlärning, mönsterigenkänning och hantering av stora datamängder. Men också diagnos och planering och att för en given målsättning identifiera en följd av handlingar. Samt att lära av sina misstag och att ändra planen.
Han hänvisar till vetenskapliga organisationen American psychology association och dess definition av intelligens som en kombination av många förmågor.
Skräcken för många människor är en intelligens som plötsligt agerar självständigt, kan fatta helt egna beslut och bygga ut sig själv. Att maskinerna tar över.
− Det är en oro som kommer tillbaka med jämna mellanrum. Begreppet AI-vinter bygger på den här oron. Under 70-talet kom det många sådana tankar som gjorde att forskarna höll tillbaka, och finansieringen minskade. Rädslan för maskinernas övertagande och kritiken blev för stor.
Drabbade AI-vintern även dig?
− Ja, vi påverkades av de där strömningarna. Forskningen fortsatte, men kanske något försiktigare. De positiva effekterna av forskning kan ju faktiskt vara betydligt större än de negativa, säger han.
Vad skulle kunna leda oss in i en ny AI-vinter?
− En brist på förtroende för tekniken, om något går riktigt fel. Eller till exempel chattbotar i en webbshop. Som kund kanske man föredrar mänsklig kontakt, för att chattboten svarar bristfälligt eller konstigt. Det skulle kunna slå emot de användningarna och i längden mot AI i allmänhet.
Har du några egna farhågor för framtiden?
− De totalitära tendenserna i Kina och Ryssland är oroväckande. Det som Putin gör nu kan han göra helt utan artificiell intelligens. Men kommer AI in så blir det nog ännu värre.
Tycker du att AI ska regleras av statsmakterna eller av industrin?
− Det omedelbara svaret måste vara statsmakten … annars är risken att det blir oaktsamt. Det måste finnas ett statligt regelverk i botten. Men frågan är om det är politiskt hållbart med ett samhälle där företagen inte är ansvarstagande. Riktigt stora företag måste ha en egen seriöst menad etisk uppfattning.
Korridorerna på Campus Valla känner han väl till. Han jobbar nu med att sortera tusentals dokument från sina många år som forskare vid Linköpings universitet. Han har haft tid på sig att tänka efter. Och han är alldeles övertygad om att moraliska överväganden måste komma högt upp på agendan i IT-utvecklingen.
− Etik är att ha tillvägagångssätt så att man inte behöver ångra sig senare, säger han och låter de orden sjunka in en stund.
Men han kände igen mönstret. Han kom till Stanford University som doktorand, 1966. Handledare var professor John McCarthy, känd för att ha myntat begreppet Artificial Intelligence (AI).
Det är nu en bra bit över 50 år sedan Erik Sandewall för första gången stötte på ett program som kan ”prata” med användaren.
En sofistikerad spegel
− Man använder sig av en personlighet som kan vara deltagande. Enklare sådana system gjordes på MIT och Stanford i slutet av 1960-talet. De påminde lite om Apples digitiala tjänst "Siri", berättar Erik Sandewall.Tillsammans med kollegorna på Stanford University roade sig Erik Sandewall med att ”prata” med ett sådant program. De försökte ofta att provocera fram spännande svar.
− Man förstod vad den gjorde. Den var en sofistikerad spegel. Om man sa: ”Jag är ledsen för något” så speglade programmet tillbaka: ”Finns det något mer som gör dig ledsen?”
När de fick fram en rolig dialog så satte de upp den på anslagstavlan i labbet.
Hur påverkades ni själva av den här kontakten?
− Det var en aha-upplevelse … att man kan reagera så i en kontakt med en maskin! Den skapade ett engagemang. Om vi fångades så enkelt, då förstår man att det går att få en starkare relation om man till exempel är psykiskt labil. Det här har ju givetvis blivit mycket mera finkänsligt under de senaste 50 åren.
"Please go ahead"
En gång bestämde sig Erik Sandewall för att ta i rejält. Han skrev ungefär: ”Om du inte uppför dig anständigt så kommer jag att slå ihjäl dig”.− ”Please go ahead”, blev svaret. Det var vanligt när programmet inte hade något svar. Då skrev jag ”ctrl/c/kjob” och avslutade jobbet. Den pappersremsan på anslagstavlan blev ett gott skratt för många! Kommandot för att avsluta en process är ”ctrl/c/kjob” och betyder kort sagt “kill job”.
Ny dag, nya möjligheter
Erik Sandewall har något lekfullt, nyfiket i blicken. En känsla av att varje dag har nya möjligheter. Han har haft fötterna i datavetenskapen sedan 1960-talet, och beskrivs ofta som Sveriges första AI-professor. Han kom till Linköpings universitet som ny professor 1975. Han var med och grundade institutionen för datavetenskap (IDA) i sin nuvarande form, 1983.Vi insåg tidigt att
AI kunde vara lösningen
− Det har varit intressant, hela tiden. Rekryteringarna gick jättebra. Vår organisation var modern. Vi kunde erbjuda unga talanger en lektorstjänst och en egen forskningsgrupp. Det var ett vinnande koncept, säger han.
En del av hans egen forskning har varit kopplad till utveckling av olika typer av affärssystem och administrativa system. De insåg att systemen behöver en förmåga att interagera med användaren. De befintliga systemen var krångliga.
− Vi förstod att det borde vara ett krav på de administrativa datasystemen att användaren kan gå in och ställa frågor. Och få ett svar direkt, av systemet. Vi insåg tidigt att AI kunde vara lösningen.
ChatGPT
Erik Sandewall ansåg också att det inte gick att separera AI från annan datalogi på ett svenskt universitet, där resurserna inte var oändliga.− Det skulle ha varit ett totalt misstag om vi hade haft forskning och utbildning inom AI och sedan programmering på sidan av. Vi behövde forskning på både AI, programmeringssystem, databaser och till exempel programmeringsspråk.
− Språk som har särskilda egenskaper för AI hade även stora fördelar för annan programutveckling.
Intelligens är så mycket mera komplicerat än ChatGPT
Intelligens är något mycket komplicerat. Det understryker Erik Sandewall flera gånger. Ändå är det lockande att tänka sig att datavetenskapen kan återskapa intelligens.
− Problemet är att intelligens är så mycket mera komplicerat än ChatGPT som just nu beskrivs som någonting väldigt intelligent. Den använder AI-teknik och förmågan att hantera stora mängder information. Och plockar ihop något som låter vettigt. Men man kan inte dra slutsatsen att ett system är intelligent i generell bemärkelse. Det handlar om vissa aspekter av intelligens och viss inlärning.
Ett sätt att se på intelligens är att den ska kunna dra slutsatser och att göra bedömningar utifrån situationer.
− Om man ser intelligens hos människor som exakt detta, då ser jag inte några skäl till att man inte på längre sikt kan få datorsystem att göra motsvarande. Men då kvarstår det svåra begreppet intuition. Man tycker att människor har förmåga att komma till slutsatser och att göra bedömningar utan resonera, och utan att härleda till några abstrakta principer. Det säger bara klick. Det kanske är en kombination. Men den typen av intuition tycks vara en viktig del av den moraliska kompassen i oss.
− Frågan är hur man får en motsvarighet till detta i våra datorer. Det finns teorier om det men inga bra svar, inget som jag känner till i varje fall.
Varför är det viktigt?
− Det är en viktig pusselbit om man ska återskapa mänsklig intelligens. Det är också en stor del av mysteriet, och som vi inte har inom synhåll. Jag tror att det kommer att dröja generationer innan vi har löst detta.
Varför behöver en dator ha moral?
− Ett datasystem måste i någon bemärkelse förstå de uppdrag det ska utföra, och då ingår ofta en moralisk aspekt. Den kan inte bara vara ytlig: ”Du får inte göra si, du får inte göra så”. Systemet behöver kunna värdera konsekvenserna relativt ett antal moraliska principer.
Många tänker inte på att AI-teknik är en samling av olika tekniker, som exempelvis inlärning, mönsterigenkänning och hantering av stora datamängder. Men också diagnos och planering och att för en given målsättning identifiera en följd av handlingar. Samt att lära av sina misstag och att ändra planen.
Bara delar av intelligens
− Varje förmåga för sig kan fungera utmärkt för sitt ändamål. Det är då vi luras att tro att en AI är extremt intelligent och snart kommer att hota mänskligheten. Men det är hittills ingen som kommit nära en kombination av människohjärnans alla förmågor.Han hänvisar till vetenskapliga organisationen American psychology association och dess definition av intelligens som en kombination av många förmågor.
Det är en oro som− Försöken att kategorisera alla förmågor slutar oftast i att det blir för mycket att ta hänsyn till. Varje förmåga för sig kan man testa och dela upp. För några år sedan talade man om AI som en ”big switch” där man bara kopplade in en förmåga i taget. Men det är väldigt lätt att konstruera fall där man behöver flera förmågor samtidigt. Det är också oklart om de mänskliga förmågorna hänger samman. Förstärker de varandra?
kommer tillbaka
Skräcken för många människor är en intelligens som plötsligt agerar självständigt, kan fatta helt egna beslut och bygga ut sig själv. Att maskinerna tar över.
− Det är en oro som kommer tillbaka med jämna mellanrum. Begreppet AI-vinter bygger på den här oron. Under 70-talet kom det många sådana tankar som gjorde att forskarna höll tillbaka, och finansieringen minskade. Rädslan för maskinernas övertagande och kritiken blev för stor.
Drabbade AI-vintern även dig?
− Ja, vi påverkades av de där strömningarna. Forskningen fortsatte, men kanske något försiktigare. De positiva effekterna av forskning kan ju faktiskt vara betydligt större än de negativa, säger han.
Vad skulle kunna leda oss in i en ny AI-vinter?
− En brist på förtroende för tekniken, om något går riktigt fel. Eller till exempel chattbotar i en webbshop. Som kund kanske man föredrar mänsklig kontakt, för att chattboten svarar bristfälligt eller konstigt. Det skulle kunna slå emot de användningarna och i längden mot AI i allmänhet.
Har du några egna farhågor för framtiden?
− De totalitära tendenserna i Kina och Ryssland är oroväckande. Det som Putin gör nu kan han göra helt utan artificiell intelligens. Men kommer AI in så blir det nog ännu värre.
Ansiktsigenkänning
Ansiktsigenkänning är ett exempel på saker som en totalitär stat kan använda mot medborgarna. Forskningen måste fortsätta, men tillämpningarna bör kontrolleras, enligt Sandewall.Tycker du att AI ska regleras av statsmakterna eller av industrin?
− Det omedelbara svaret måste vara statsmakten … annars är risken att det blir oaktsamt. Det måste finnas ett statligt regelverk i botten. Men frågan är om det är politiskt hållbart med ett samhälle där företagen inte är ansvarstagande. Riktigt stora företag måste ha en egen seriöst menad etisk uppfattning.
Korridorerna på Campus Valla känner han väl till. Han jobbar nu med att sortera tusentals dokument från sina många år som forskare vid Linköpings universitet. Han har haft tid på sig att tänka efter. Och han är alldeles övertygad om att moraliska överväganden måste komma högt upp på agendan i IT-utvecklingen.
− Etik är att ha tillvägagångssätt så att man inte behöver ångra sig senare, säger han och låter de orden sjunka in en stund.
