17 mars 2023

Artificiell intelligens är på mångas läppar tack vare Chat GPT. Men är den nya tekniken ett hot eller en möjlighet? Eller kanske båda? AI-forskaren Fredrik Heintz ser stora möjligheter men också utmaningar.

Fredrik Heintz.
"Människans kultur är till stor del text. Att Chat GPT har fått så mycket uppmärksamhet beror på att språket den genererar har kommit så mycket närmre oss själva. Kanske lite för nära", säger Fredrik Heintz, en av Sveriges främsta AI-forskare. Anna Nilsen

Chat GPT - den kraftfulla AI-drivna chattroboten som revolutionerar kommunikationen. Tränad av OpenAI, erbjuder Chat GPT snabba och tillförlitliga svar på frågor om ett brett spektrum av ämnen. Med sitt naturliga språkbehandlingsförmåga och enorma datamängd, är Chat GPT det ultimata verktyget för att förenkla kommunikationen och öka produktiviteten.

Det stycket var skrivet av Chat GPT på uppmaningen att skriva en inledande text om sig själv. Kanske inget mästerverk, men ändå en någotsånär begriplig text. Frestande för en skribent att låta chattroboten skriva resten av texten? Nja, så blir det inte… denna gång.

I november 2022 släpptes betaversionen av Chat GPT. Det är, som redan nämnt, en chattrobot som drivs av artificiell intelligens – AI. Resultaten som roboten kan alstra är i många fall förbluffande bra och har fascinerat många på den korta tiden. Redan efter en knapp vecka hade Chat GPT över en miljon användare.AI-genererad bild av robotar i ett klassrum.Open AI, företaget bakom Chat GPT har också utvecklat AI som skapa bilder utifrån en textinstruktion. Foto DALL-E

Tillförlitlig AI

Med tidigare versioner av chattrobotar har det ofta inte varit någon tvekan om att det faktiskt är en dator som svarar. Begränsningarna i naturlig språkbehandling och oförmågan att anpassa svaren till ett sammanhang har lyst igenom. Men med Chat GPT suddas linjerna mellan människa och maskin ut på gott och ont.

Fredrik Heintz är en av Sveriges främsta forskare inom AI och leder projektet Tailor som ska utveckla de vetenskapliga grunderna för tillförlitlig AI inom hela EU.

– Det finns en hel del intressant i texterna den producerar och den lyckas extrahera mycket från källmaterialet vilket kan ge nya insikter. Samtidigt kan den inte skilja mellan nonsens och vad som är vettigt, säger han.

Chat GPT är tränad med djupa neurala nätverk på enorma mängder data för att kunna ge så generella och träffsäkra svar som möjligt. Modellen har behandlat cirka 500 miljarder begrepp från böcker, webbarkiv och Wikipedia. För att finjustera svaren tränas den av människor. Dessutom använder den självinlärning för att bli bättre och bättre – ett arbetssätt som funnits inom AI-forskningen under lång tid.

– Det är egentligen inga nya vetenskapliga genombrott som gjort att Chat GPT fungerar så bra. Det är skalan som spelar roll. Mer träningsdata ger också bättre resultat. Jag skulle säga att det är ett litet steg för forskningen men ett stort steg för nyttan med AI, säger Fredrik Heintz.

Nära mänskligt språk

Just nyttan med Chat GPT verkar nästintill oändlig. Allt från att vara en människolik chatrobot, till att koda programvara, komponera musik och skriva noveller i samma stil som Joyce Carol Oates eller Edgar Allan Poe.Professor Fredrik Heintz.Fredrik Heintz är professor vid avdelningen Artificiell intelligens och integrerade datorsystem (AIICS) vid Linköpings universitet. Foto Anna Nilsen

– Människans kultur är till stor del text. Att Chat GPT har fått så mycket uppmärksamhet beror på att språket den genererar har kommit så mycket närmre oss själva. Kanske lite för nära, säger Fredrik Heintz.

Men förutom att skriva kreativa berättelser, nydanande poesi och rörande sångtexter kan den också skriva uppsatser, vetenskapliga artiklar och rapporter. Något som fått vissa att fundera på hur vi ska förhålla oss till fakta och kunskap.

Den AI som finns idag tränas på befintliga texter och bilder som någon gång skapats av människor. Huvuddelen av materialet finns på webben. Det är även där som det AI-genererade materialet till slut hamnar. Men vad händer när vi hamnar i den prekära situationen att AI tränas på sina egna texter?

Nya insikter

Vissa menar att kunskap riskerar att bli ett flytande begrepp när ingen har verktygen för att faktakolla det som faktiskt står på webben och är generat av AI. Men Fredrik Heintz är inte lika pessimistisk.

– Man kan generera ny kunskap och hitta nya perspektiv på saker vi redan vet. Chat GPT kan helt enkelt ge nya insikter för oss människor, säger han.

Däremot ser han andra problem med Chat GPT och möjligheten att generera stora mängder innehåll på kort tid. Kombinationen med annonsering i sociala medier gör att vi kan få en störtflod med skräddarsydda budskap i våra flöden.Fredrik Heintz."Vi är bara i början av utvecklingen av artificiell intelligens. Kollar vi tillbaka om 50 år på det vi gör i dag, kommer vi tycka att det är ganska primitivt", säger Fredrik Heintz  Foto Anna Nilsen

Han ser också risken att AI som är tränad på befintligt internetmaterial får en snedvridning mot olika kulturer, kön och funktionsvariationer. I dagsläget har Open AI byggt in spärrar mot bland annat homofobi, rasism, sexism och funkofobi. Men spärrarna är i dagsläget lätta att kringgå.

Etik, rättvisa och AI

Därför är det viktigt att lägga grunden för en tillförlitlig och människocentrerad AI redan nu. Inom EU-projektet Tailor har forskarna specificerat tre kriterier för att uppnå tillitsfull AI: den ska följa lagar och regler, uppfylla ett antal etiska principer samt att det ska vara ett robust och säkert införande. Fredrik Heintz menar att det innebär stora utmaningar, framför allt att efterleva de etiska principerna.

– Ta till exempel rättvisa – innebär det lika fördelning av resurser eller att alla får resurser efter behov för att komma upp på samma nivå? Det är stora och långsiktiga frågor som kommer ta tid att lösa. Definitionen av rättvisa har ju debatterats av filosofer och tänkare i hundratals år.

Fakta: Chat Generative Pre-trained Transformer eller Chat GPT är en språkmodellbaserad AI utvecklad av det amerikanska företaget Open AI.

Kontakt

Chat GPT som hjälp?

Styrkeområde AI

Forskning

Senaste nytt från LiU

Porträtt av man (Carl Fredrik Graf)

Carl Fredrik Graf får LiU:s förtjänstmedalj

Avgående landshövding Carl Fredrik Graf tilldelas Linköpings universitets förtjänstmedalj för ”sin vilja och förmåga att samla regionens olika krafter i arbetet för en positiv samhällsutveckling”. Medaljen delas ut vid den akademiska högtiden 1 juni.

Kampanj mot droger blev Emmas genombrott

När Kårservice i samarbete med kårerna bestämde att tydligt ta avstånd från droger och droghandel gick uppdraget till GDK-studenten Emma Kunelius. Hennes kampanj fick stort genomslag på campus och nominerades i tävlingen Stora Kommunikationspriset.

Ola Larsmo.

En brygga mellan universitetet och samhället

Författaren Ola Larsmo sammanfattar sin tid som gästprofessor vid LiU som spännande, givande och viktig. Han menar att det i dag är viktigare än någonsin att känna till sin historia och att förstå den.