Samma forskningsdata tolkades helt olika

Olika forskarlag världen över, varav ett från LiU, har analyserat samma material i syfte att jämföra sina resultat. Jämförelsen visade att de olika forskarlagens resultat märkbart skilde sig åt. Studien har publicerats i den ansedda tidskriften Nature.

Man framför dataskärm Forskare bör i större utsträckning tillgängliggöra data för andra forskare, förregistrera  hypoteser och vara transparenta med vilka analysmetoder som används, menar författarna av en nypublicerad studie i Nature. gorodenkoff

Den vetenskapliga processen består av en lång rad svåra steg, som att utveckla en teori, skapa hypoteser, samla in data och att analysera den. Varje sådant litet steg påverkar det slutliga resultatet – men i vilken grad? Det frågade sig de nära 200 forskare inom neuro- och beteendevetenskap som gick samman i projektet NARPS (Neuro imaging Analysis Replication Prediction Study) för att jämföra resultat kring hjärnavbildningar.  Foto Thor Balkhed

– Att nästan 200 forskare inom neurovetenskap, ekonomi och psykologi  avsätter tio- eller hundratals timmar för att delta i en kritisk självbedömning visar på ett starkt engagemang för att förbättra och kritiskt granska kvaliteten inom sitt eget forskningsfält, säger Gustav Tinghög, biträdande professor som forskar om beteende- och neuroekonomi på JEDI-lab vid institutionen för ekonomisk och industriell utveckling, Linköpings universitet. 

Han har tillsammans med LiU-kollegorna Kenny Skagerlund från JEDI-lab och Paul Hamilton från Centrum för social och affektiv neurovetenskap, CSAN, bidragit till studien som nu publiceras i den vetenskapliga tidskriften Nature.

Studien började med att 108 försökspersoner fick ta beslut i olika ekonomiska frågor, på ett laboratorium i Tel Aviv, Israel. Medan de tog beslut om exempelvis hur mycket pengar de kunde vinna eller förlora genom olika val, gjordes en avbildning av deras hjärnor. Dessa hjärnavbildningar skickades sedan till 70 olika forskarlag runt om i världen. Ett av dem var JEDI-lab vid Linköpings universitet, 

JEDI-lab och de andra forskarlagen testade sedan de nio på förhand uppsatta hypoteserna genom att använda sina standardmetoder. Hypoteserna handlade bland annat om hur aktiviteten i en viss del av hjärnan förändras i förhållande till de ekonomiska beslut som deltagarna tog.

Att forskare kommer fram till olika resultat är en del av den vetenskapliga processen. Men det är viktigt att förstå varför och vilka metodologiska val som ligger bakom, för att kunna bygga vidare och utveckla ny kunskap.
Gustav Tinghög, biträdande professor

Efter tre månader rapporterade forskargrupperna sina slutresultat för hypoteserna samt detaljerad information om hur de hade analyserat datan. I fem av hypoteserna var variabiliteten stor vad gällde huruvida de olika forskarlagen styrkte eller avslog hypotesen, mellan 20 och 40 procent. 

– När vi börjar närma oss 50 procent innebär det att forskarnas tolkning inte nämnvärt skiljer sig från det man hade fått om man låtit singla slant för att avgöra om hypotesen ska bekräftas eller inte. Detta är såklart inte bra, säger Gustav Tinghög.   

Vad gällde de övriga fyra hypoteserna så visade forskarlagen mer samstämmighet. Resultaten från studien visar för första gången den stora variation som uppstår när samma komplexa data från hjärnavbildningar analyseras på olika sätt, i syfte att testa samma hypoteser. 

– Det är oerhört komplexa metoder och analyser det handlar om när man ska förstå mänskligt beslutsfattande. Att forskare kommer fram till olika resultat är en del av den vetenskapliga processen. Men det är viktigt att förstå varför och vilka metodologiska val som ligger bakom, för att kunna bygga vidare och utveckla ny kunskap. Vi forskare kan bidra till den processen genom att bli mycket bättre på att tillgängliggöra vår data för andra forskare, förregistrera våra hypoteser och att vara fullständigt transparenta i vilka analysmetoder vi använder för att förstå vår data, säger Gustav Tinghög.

Vetenskaplig artikel:
Variability in the analysis of a single neuroimaging dataset by many teams, Rotem Botvinik-Nezer el al., Nature (2020).

 

Kontakt

Relaterat innehåll

Relaterat innehåll

Senaste nytt från LiU