Den allt mer intensiva samhällsdebatten om AI speglar växande krav på att teknikens potential ska förverkligas i samklang med hållbarhet, säkerhet och demokratiska värderingar. Forskningen om AI vid Linköpings universitet spänner över ett stort antal ämnen och discipliner och präglas av tvärvetenskapliga metoder. Det bidrar till starka forskningsmiljöer och forskningsresultat med hög samhällsrelevans. Därför samlade universitets Centrum för hållbarhetsomställning (LiUST) och profilområdet Visuella digitala framtider nyligen forskare från å ena sidan datavetenskap, maskininlärning och fysik, och å andra sidan medie- och kulturvetenskap och samhällsvetenskaplig hållbarhetsforskning, för tvärvetenskapliga samtal om framtidens hållbara AI-system.
Styrning och ansvarstagande
Forskarna efterlyser en mer ansvarstagande hållning, bättre politisk styrning och fokus på långsiktig hållbarhet:
- AI rymmer en enorm potential, men tekniken måste användas för mänsklighetens bästa. Då kan vi på allvar nå stora framsteg inom till exempel medicin eller för arbetstidsförkortning, menar Björn Alling, professor i teoretisk fysik och biträdande föreståndare för NAISS, Nationell akademisk infrastruktur för superdatorer i Sverige.
Per Wistbo Nibell
Marie Francisco, postdoktor vid Tema Miljöförändring som bedriver forskning om AI-styrning, pekar på att EU behöver ta en mycket mer aktiv roll som lagstiftare:
- EU kan spela en viktig roll genom att ställa krav på ansvarsfull och etisk AI. Med tydligare regler kan inte företag utan tillräckliga skyddsmekanismer verka på den europeiska marknaden, påpekar hon.
- Faktum är att idag saknas egentlig styrning av AI. Allt annat i vårt samhälle är styrt på något sätt, det är ju politikens uppgift, fortsätter Marie Francisco. Vi måste öka kraven på politiker och andra samhällsaktörer att de deltar i diskussionen om vilken typ av AI vi vill ha, och vilken AI som kanske bör vänta. Beslut om säkerhet och risker kan inte enbart lämnas till utvecklarna, menar hon, och efterlyser oberoende grupper av AI-experter som kan bidra med vägledning utan ekonomiska incitament.
Idag saknas egentlig styrning av AI, trots att allt annat i vårt samhälle är styrt på något sätt.
Synliggöra AI:s klimatavtryck
Ett fundamentalt steg för att minska AI:s klimatavtryck är att förstå och identifiera just detta klimatavtryck:
- Hållbar AI handlar inte om effektivitet, utan om ansvar, menar Sebastian Mair, biträdande universitetslektor vid avdelningen för Statistik och maskininlärning vid Institutionen för datavetenskap. Idag kan en doktorand ange sin AI-modells noggrannhet med tre decimalers precision, men inte vad det kostade att utveckla den i form av resursåtgång.
Per Wistbo Nibell
Vad är ett hållbart AI-system?
Men vad är då ett hållbart AI-system? AI:s energiförbrukning har fått stor uppmärksamhet de senaste åren, men forskarna är eniga om att hållbarhet inte kan reduceras till enbart en fråga om elförbrukning.
Miriah Meyer, professor och ansvarig kontaktperson för profilområdet Visuella Digitala Framtider, konstaterar att nyhetsflödet kring AI varit ovanligt dramatiskt nyligen. Media har rapporterat om ett grundläggande vetenskapligt genombrott inom matematik, och om att motståndet i USA mot nya datacenter ökar. Inte minst har det varit en intensiv debatt om säkerhetsriskerna kring AI, utifrån att två forskare knutna till Anthropic varnat för att den accelererande utvecklingen mot självförbättrande AI kan komma att utgöra ett hot mot mänsklighetens existens, och Anthropics VD Dario Amodei krävt att takten i AI-utvecklingen saktas ner:
- Många människor känner sig maktlösa inför de stora teknikföretagen, menar Miriah Meyer. Genom att diskutera både potentialen och utmaningarna kring AI i tvärvetenskapliga forum kan vi bättre undersöka vilka alternativ som finns och vilka värderingar som bör vägleda AI-utvecklingen framöver.
Vi behöver bestämma vilka värderingar som ska vägleda AI-utvecklingen.
Per Wistbo Nibell
Med utgångspunkt i Brundtlandrapportens klassiska definition av hållbar utveckling, att möta dagens behov utan att äventyra kommande generationers möjligheter att möta sina, är forskarna eniga om att det är många aspekter som avgör om ett AI-system är hållbart eller inte. Marie Francisco betonar att hållbar AI också handlar om resursanvändning och sociala konsekvenser:
- Ett hållbart AI-system måste också vara etiskt. Vi behöver fråga oss hur människor och lokalsamhällen påverkas.
Julia Velkova, professor vid Institutionen för kultur och samhälle, har forskat om datacenter under mer än tio år. Nu varnar hon för att i alltför stor utsträckning förenkla debatten om de komplexa AI-frågorna, genom att till exempel reducera hållbarhet till en simpel checklista:
- Vi behöver inkludera tidsaspekten när vi diskuterar hållbarhet i tekniska system. Teknologier förändras hela tiden, och det innebär att definitionen av hållbarhet också är i ständig förändring, menar hon.
Per Wistbo Nibell
Kan AI vara hållbart om det orsakar negativa sociala konsekvenser?
Julia Velkova vill därför se ett bredare perspektiv på AI och hållbarhet. I stället för att enbart fokusera på kunskapen om de tekniska systemen behöver forskningen också handla om människorna och platserna som påverkas av den växande infrastrukturen. Hon pekar på exempel där etableringar av datacenter beskrivs som hållbara investeringar samtidigt som de får negativa miljömässiga eller sociala konsekvenser för människorna i närområdet:
- Vi ser ofta att politiker alldeles för lättvindigt ger för omfattande löften till de stora tech-bolagen. Det har skett i till exempel Ragunda, där etableringen av ett stort vindkraftspark finansierad av Google gav Google gröna kreditpoäng, men förstörde närmiljön för invånarna och en viktig del av flera samebyars vinterrenbetesmarker. Det visar att vi forskare ibland måste byta glasögon: från att studera system till att se hur människor och platser påverkas. Från att enbart beskriva vinsterna, till att också förstå förlusterna.
Enligt Julia Velkova kan alternativa begrepp som livskvalitet och möjligheten att leva ett gott liv ibland ge en mer relevant utgångspunkt än hållbarhet som ett allmänt samlingsbegrepp.
Ingen av forskarna ser uppenbara existentiella risker av den typ som debatterats i media under de senaste veckorna. Men Björn Alling ser en uppenbar risk om eller när den typen av cyberattacker som initierats och genomförts av AI-agenter mot t ex Hugging Face kombineras med fysiska vapen:
För cyberattacker kan vi införa skyddsåtgärder. Men om vi lägger till fysiska vapen i ekvationen skulle vi hamna i ett mycket allvarligt läge.
Skala upp Europas AI-infrastruktur
Per Wistbo Nibell
