12 februari 2019

”Inom bara några få år finns superdatorer framme som arbetar i exaflops. Vi står nu mitt i ett paradigmskifte ”. Det sa Thomas Sterling, ikon i superdatorvärlden och professor vid Indiana University, på besök vid NSC och LiU.

Thomas Sterling, professor of intelligent systems engineering, University of Indiana
Thomas Sterling, professor, pionjär och inte minst visionär. Göran Billeson
Professor Thomas Sterling, en av superdatorvärldens nu levande pionjärer, var huvudtalare när Nationellt superdatorcentrum, NSC, firade 30 år och invigde nordens största superdator Tetralith och ytterligare fyra superdatorsystem.

Thomas Sterling är professor i ”Intelligent Systems Engineering” vid Indiana University
och bland mycket annat också föreståndare för ”Continuum Computer Architecture Laboratory”, även det vid Indiana University.

Summit kraftfullaste superdatorn

Amerikan som han är startade han med att konstatera att superdatorn Summit, vid Oak Ridge Laboratory i Tennessee, idag är världens kraftfullaste superdator efter år av kinesisk dominans. Summit har en maximal beräkningskapacitet på 200 petaflops, 200 1015 flyttalsoperationer per sekund. Men han konstaterade också att det inte var mycket att prata om, dels för att den största delen av det vetenskapliga beräkningsarbetet sker på betydligt mindre superdatorer runt om i världen, som de nordiska, och dels för att nästa generations superdatorer knackar på dörren, superdatorer som arbetar i exaflops (1018 flyttalsoperationer per sekund).

– Första superdatorn ENIAC kom ungefär när jag föddes, och i dag är min brödrost smartare än den, konstaterade han med oefterhärmlig amerikansk humor, och visade med hjälp av ett extrapolerat diagram att i oktober 2024 ska exaflops-datorn finnas med nuvarande utvecklingstakt.

Men han hävdar också att det kommer att gå snabbare än så eftersom ett paradigmskifte är på gång. Det första skiftet hävdar han inträffade när Seymour Cray uppfann multikodningen som gör parallella beräkningar möjliga. Cray-datorerna var också från mitten av 1970-talet och ett antal år framåt världens snabbaste. Runt år 2000 togs sedan Thomas Sterling, professor of intelligent systems engineering, University of IndianaThomas Sterling, professor of intelligent systems engineering, University of Indiana Foto Göran Billesonnästa steg då man började bygga ihop servrar i kluster.

– Idag består 80 procent av alla superdatorer av kluster, sa han.

von Neumann arkitektur

Från starten och till nu har dock arkitekturen i superdatorerna byggt på de principer som togs fram av matematikern John von Neumann på 1940-talet, ENIAC stod klar 1946. Mycket förenklat handlar det om att arkitekturen delas in separata delar: aritmetikenhet, minne, styrenhet och användargränssnitt.

– Vad är det då som är fel med von Neumann-arkitekturen, frågar Thomas Sterling retoriskt och svarar snabbt: Allt.

Problemen han ser är dels att 90 procent av hårdvaran i superdatorn behövs för att hålla igång arbetet i de 10 procenten. Eftersom man separerat logiken från minnet krävs hierarki, register och massor av kommunikation dem emellan.

– Transportvägarna är för lång och drar för mycket energi, hävdar han.

Moores lag är död

Det andra problemet är att beräkningarna sker sekventiellt, en beräkning åt gången, visserligen parallellt, men det innebär ändå att beräkningarna tar längre tid.
Ytterligare en aspekt är att datorutvecklingen hittills har drivits enligt Moores lag, en lag uppkallad efter Intels grundare som säger att antalet transistorer på ett chip fördubblas vartannat år. Komponenterna är nu så små att det bland annat är kvantmekaniska fenomen som sätter stopp för den utvecklingen.

– Moores lag är död. Sluta jobba på att få traditionella processorer snabbare, använd den teknik vi har och bygg ihop med minne och kommunikation, säger han.

Han vill se maskiner med många små element där logik och minne är sammankopplat i en enhet, med kopplingar till grannen.

Styr sig själv

– Det är en superdator som förstår uppgiften, styr sig själv och kan sprida beräkningarna så att det blir effektivast möjligt. Det kan bli världens snabbaste maskin till en låg kostnad. Detta går att göra, hävdar han.

Niclas Andersson, teknisk chef, NSC, Matts Karlsson, professor LiU och föreståndare NSC, Thomas Sterling, professor of intelligent systems engineering, University of Indiana.Niclas Andersson, Matts Karlsson och Thomas Sterling. Foto Göran BillesonInte nog med att maskinen blir billigare och snabbare, den tar också mindre plats. Thomas Sterlings superdator får plats på 40 m2 (Summit kräver en yta större än 8000 m2), den har en maximal beräkningskapacitet på 1,05 exaflops och den drar minimalt med energi, jämfört med dagens superdatorer. Enligt hans utvecklingsplan ska den stå klar 2022, om tre år.

Niclas Andersson, teknisk chef på NSC, gillar det han hör:
– I och med att utvecklingen av nuvarande teknologi avstannar så öppnas ju fältet upp för olika alternativa arkitekturer. Sterlings maskin är mycket tilltalande. Vi måste studera den närmare för förstå hur en sådan arkitektur kan programmeras och användas för HPC. Det är helt klart en spännande och mer diversifierad utveckling tid vi går till mötes, säger han.

Exa, zetta och yotta

Thomas Sterling tar oss med ännu en bit längre in i framtiden:
– Kvantdatorerna är bra att det forskas kring, säger han, men det ingenjörsmässiga är fortfarande en utmaning. Datorer som härmar hjärnans sätt att arbeta (neuromorphic computing) är ett steg bort från von Neumann-arkitekturen, men vi behöver lära oss mer och tekniken finns inte framme inom överskådlig tid.

Yottaflops-tekniken (1024 flyttalsoperationer per sekund) hittar han istället i kryotekniken, superdatorer som arbetar strax över absoluta nollpunkten, runt 4 Kelvin. På sikt. På vägen dit ska vi dock passera exa, och där är vi snart, och zetta.

– Det är verkligen fantastiskt kul att kunna få ha Tomas Sterling som vår keynote speaker vid NSC:s 30-års jubileum. Han gav på samma gång en underhållande och allvarlig presentation av var vi kommer från, var vi står och vad som (kanske) komma skall – en sann pionjär med glimten i ögat, kommenterar också Matts Karlsson, professor vid LiU och föreståndare för NSC.


Fotnot: HPC - High Performance Computing, det vi i dagligt tal kallar superdatorer.

Kontakt

Nyheter NSC

Superdatorn Berzelius fotograferad med vidvinkel.

Svensk AI-forskning får mer muskler

Cancerdiagnostik, datorseende och materialutveckling är bara några forskningsutmaningar som AI kan bidra till att lösa. Superdatorn Berzelius invigdes våren 2021 och redan nu behövs mer kraft för att möta behovet hos svensk AI-forskning.

Tre personer sitter på en scen med publiken framför.

Nya NAISS: Vassare organisation för superdatorer i Sverige

SNIC blir NAISS vid årsskiftet när LIU får ansvaret för en ny organisation för superdatorer och storskaliga beräkningar i Sverige. ”Vårt absolut största nationella åtagande”, säger LiU:s vicerektor Matts Karlsson.

Server med inkoplade kablar.

Vetenskapsrådet finansierar ny organisation för beräkningsresurser

Vetenskapsrådet beviljar ansökan från Linköpings universitet för utlysningen Bidrag till infrastruktur för nationella beräkningsresurser och tillhörande tjänster.

Nationellt superdatorcentrum

Senaste nytt från LiU

Person (Jie Zhou) pekar på en datorskärm.

Ny värld av 2D-material öppnas

Material som är extremt tunna får ovanliga egenskaper som gör dem lämpliga för bland annat energilagring, katalys och vattenrening. Nu har forskare vid LiU utvecklat en metod där hundratals nya 2D-material kan skapas.

Lakrits i skål och lakritsrot bredvid.

Liten mängd lakrits höjer blodtrycket

Det är känt att större mängder lakrits orsakar högt blodtryck. Nu visar en studie av forskare vid LiU att även små mängder lakrits höjer blodtrycket. De individer som reagerar kraftfullast visar också tecken på belastning av hjärtat.

Han lotsar sina studenter till toppjobb

Det går bra för LiU-studenter i SM i företagsvärdering. År efter år går segern till Linköpings universitet. Vinst i tävlingen är en genväg till toppjobb i storbanker och revisionsbolag. Vad är egentligen hemligheten bakom framgångarna?