Yeniden üretim ve değerlendirme süreçlerinde tekrarlanabilirliğin sağlanması
2017 yılında tekrarlanabilir bilim için yayınlanan manifestoda [1] araştırmaların doğrulanmasını desteklemek için uygulanabilecek önlemler aşağıdaki gibi listelenmiştir.
Şeffaflığı ve açık bilimi teşvik etmek: Bilim sosyal bir girişmdir: Bağımsız ve işbirlikçi gruplar bir kamu malı olarak bilgi biriktirmek üzere çalışırlar. Bilimsel iddiaların güvenilirliği, uygulanan metodolojiyi, elde edilen verileri ve metodoloji uygulama sürecini, veri analizini ve sonuç yorumlamasını içeren, onları destekleyen kanıtlara dayanmaktadır. İddialar, topluluğun destekleyici kanıtları gözden geçirmesi, eleştirmesi, genişletmesi ve yeniden üretmesi ile inanılır hale gelir. Bununla birlikte şeffaflık olmadan, iddialar yalnızca yaratıcının güvenine veya yetkisine duyulan güvene dayalı olarak inanılırlık kazanır. Şeffaflık güvenden üstündür.
Açık bilim, kanıt/iddia üretme içeriğini ve sürecini şeffaf, ayrıca başkaları için erişilebilir hale getirme sürecini ifade eder. Şeffaflık bilimsel bir idealdir ve bu nedenle "açık" ifadesinin eklenmesi gereksiz olmalıdır. Gerçekte, bilim genellikle açıklıktan yoksundur: Yayınlanmamış birçok makale, kişisel veya kurumsal aboneliği olmayan kişiler için mevcut değildir ve araştırma sonuçlarını destekleyen pek çok veri, materyal, kod halka açık bir havuzda erişilebilir hale getirilmez [2, 3].
Araştırma sürecinin çok azı erişilebilirdir, çünkü tarihsel olarak istense bile bunları erişilebilir kılmak için çok az fırsat olmuştur. Bu durum, açık veri ve açık iş akışları (analiz hatları da dahil) için araştırma çağrılarını motive etmiştir ancak özellikle bilimsel yayıncılıkta kazanılmış finansal çıkarlar ve araştırmacıların açık uygulamaları sürdürmesi için teşviklerdeki sorunlar nedeniyle bu ideali gerçekleştirmenin önünde çeşitli engeller vardır. Örneğin, mevcut teşvik yapıları, çalışma prosedürlerinin veya sonuçlarının eksik raporlanmasını gerektirebilecek 'temiz' anlatıların yayınlanmasını teşvik etmektedir. Buna rağmen bazı değişimler yaşanmaktadır. Şeffaflık ve açıklığı geliştirme yönergeleri [4,5] açık uygulamaları teşvik ederken, artan sayıda dergi ve fon sağlayıcı açık uygulamalara ihtiyaç duymaya başlamıştır. Wellcome Trust'ın yürüttüğü uygulamalar, açık bilimi destekleyecek politikalar ve Açık Bilim Çerçevesi gibi kar amacı gütmeyen uygulamalar iyi örnekler olarak sunulabilir.
Akran değerlendirmesinin çeşitlendirilmesi: Bilimsel yayıncılık tarihinin çoğu iki işlev için iç içe geçmiştir: Değerlendirme ve yayma. Dergiler, içeriği araştırma topluluğuna sunarak yayma işlevini ve neyin yaymaya değer olduğunu belirlemek için de akran değerlendirmesi yoluyla değerlendirme denetimi sağlamıştır. Bununla birlikte, internetin gelişiyle beraber, araştırmacılar artık bireysel aboneliklere bağlanmak, yazdırmak veya postalamak için yayıncılara bağımlı değildir. Araştırmaların yayılması artık daha kolaydır ve araştırmacıların kendileri tarafından kontrol edilebilir. Örneğin, önbaskı (preprint) hizmetleri (arXiv, bioRxiv, PeerJ, engrXiv, psyArXiv, SocArXiv, SSRN) araştırmaların yayınlanmadan önce kolayca paylaşılmasını, sıralanmasını ve keşfedilmesini kolaylaştırır. Bu, bilginin araştırma topluluğunda yayılmasını önemli ölçüde hızlandırır.
Yayılma kolaylığının artması ile birlikte, yayıncıların bir kapı tutucu olarak rolü azalmaktadır. Ancak, yayınlamanın bir diğer rolü, değerlendirme, araştırma girişiminin hayati bir parçası olmaya devam ediyor. Geleneksel olarak, bir dergi editörü, belirli bir dergi için gönderimin uygunluğunu denetlemek üzere sınırlı sayıda hakem seçebilir. Ancak, bilim camiasının kolektif bilgeliğinden yararlanılmasına izin veren daha çeşitli değerlendirme süreçleri ortaya çıkmaktadır [6]. Örneğin bazı ön baskı hizmetleri, makaleyi geliştirmek için kullanılabilecek bir yayın öncesi inceleme biçimi olan yayınlar hakkında kamuya açık yorumları destekler. PubMed Commons ve PubPeer gibi diğer hizmetler, yayın sonrası akran değerlendirmesini kolaylaştıran, yayınlanmış çalışmalar hakkında yorum yapmaları için halka açık platformlar sunar. Aynı zamanda, bazı dergiler "sonuçsuz" incelemeyi deniyor. Yani kabul veya ret kararı olmaksızın açık değerlendirmeler teşvik ediliyor [7].
Hem yayın öncesi hem de yayın sonrası akran değerlendirmesi mekanizmaları değerlendirme süreçlerini önemli ölçüde hızlandırır ve genişletir [8]. Araştırmacılar, ön baskıları paylaşarak, geleneksel ve kapaşı akran değerlendirme sürecinde birkaç inceleme için birkaç ay beklemek yerine, çeşitli topluluklardan çalışmaları hakkında hızlı geri bildirim alabilirler. Hakemler, yayın sonrası hizmetleri kullanarak, zahmetli, belirsiz ve uzun bir değerlendirme yazımı gibi zahmetli, belirsiz ve uzun bir sürece güvenmek yerine anında makaleler hakkında olumlu ve eleştirel yorumlar yapabilirler.
Yayın öncesi ve sonrası değerlendirmenin halka açık biçimleri olarak bu yeni hizmetler, yeni kredi ve itibar geliştirme biçimleri için potansiyel sunar [9]. Geleneksel modelde akran değerlendirmesi özel, anonim ve tamamen hizmet amaçlı yapılır. Herkese açık yorum sistemlerinde, tanımlanabilir olmayı seçen bir hakem, incelemenin kalitesine bağlı olarak itibar kazanabilir (veya kaybedebilir). Anonim olmayan incelemenin çeşitli riskleri vardır ancak açık akran değerlendirmesinin alınan incelemelerin kalitesini iyileştirdiğine ilişkin kanıtlar da vardır [10]. Hızlandırılmış bilimsel iletişim fırsatı, hem keşif hızını artırabilir, hem de bilimsel söyleme aktif olarak katkıda bulunmanın araçlarını çeşitlendirebilir.
Teşvikler: Yayın, akademik bilimin para birimidir ve istihdam, finansman, terfi ve kadro olasılığını artırır. Ancak tüm araştırmalar eşit olarak yayınlanabilir değildir. Olumlu, yeni ve temiz sonuçların yayınlanması, olumsuz sonuçlara veya gevşek uçlu sonuçlara göre daha olasıdır. Sonuç olarak araştırmacılar doğruluk pahasına bile olsa ilkini üretmeye teşvik edilir [11]. Bu teşvikler nihayetinde yayınlanmış literatürdde yanlış pozitiflerin olasılığını artırır [12]. Bu nedenle teşvikleri değiştirmek yayınlanan sonuçların güvenilirliğini ve tekrarlanabilirliğini artırma fırsatı sunar.
Fonlayıcılar, yayıncılar, araştırma toplulukları, kurumlar, editörler, değerlendiriciler ve yazarların tümü, işlevsiz teşvikler yaratan ve sürdüren kültürel normlara katkıda bulunur. Teşvikleri değiştirmek, bu nedenle, ödül yapılarını değiştirmek için tüm paydaşların koordineli bir çabasını gerektiren bir sorundur. Yenilikçi sonuçlar için her zaman teşvikler olacaktır. Yeni şeyler keşfedenleri keşfetmeyenlerden daha fazla ödüllendirilecektir. Ancak, verimlilik ve etkinlik teşvikler verilebilir. Titiz, şeffaf ve tekrarlanabilir araştırma yapanlar, yapmayanlardan daha fazla ödüllendirilebilir.
Kaynakça
[1] Bu bölüm manifestodan doğrudan çevrilmiştir. Manifesto CC BY 4.0 Lisansı ile korunmaktadır.
Munafò, M. R., Nosek, B. A., Bishop, D. V. M., Button, K. S., Chambers, C. D., Percie du Sert, N., Simonsohn, U., Wagenmakers, E.-J., Ware, J. J., & Ioannidis, J. P. A. (2017). A manifesto for reproducible science. Nature Human Behaviour, 1(1), Article 1. https://doi.org/10.1038/s41562-016-0021
[2] Alsheikh-Ali, A. A., Qureshi, W., Al-Mallah, M. H. & Ioannidis, J. P. Public availability of published research data in high-impact journals. PloS ONE 6, e24357 (2011).
[3] Iqbal, S. A., Wallach, J. D., Khoury, M. J., Schully, S. D. & Ioannidis, J. P. Reproducible research practices and transparency across the biomedical literature. PLoS Biol. 14, e1002333 (2016).
[4] Begg, C. et al. Improving the quality of reporting of randomized controlled trials: the CONSORT statement. JAMA 276, 637–639 (1996). https://doi.org/10.1001%2Fjama.1996.03540080059030
[5] McNutt, M. Taking up TOP. Science 352, 1147 (2016). https://doi.org/10.1126%2Fscience.aag2359
[6] Park, I. U., Peacey, M. W. & Munafò, M. R. Modelling the effects of subjective and objective decision making in scientific peer review. Nature 506, 93–96 (2014). https://doi.org/10.1038%2Fnature12786
[7] Button, K. S., Bal, L., Clark, A. G. & Shipley, T. Preventing the ends from justifying the means: withholding results to address publication bias in peer-review. BMC Psychol. 4, 59 (2016).
[8] Berg, J. M. et al. Preprints for the life sciences. Science 352, 899–901 (2016). https://doi.org/10.1126%2Fscience.aaf9133
[9] Nosek, B. A. & Bar-Anan, T. Scientific utopia: I. Opening scientific communication. Psychol. Inq. 23, 217–243 (2012). https://doi.org/10.1080%2F1047840X.2012.692215
[10] Walsh, E., Rooney, M., Appleby, L. & Wilkinson, G. Open peer review: a randomised trial. Brit. J. Psychiat. 176, 47–51 (2000). https://doi.org/10.1192%2Fbjp.176.1.47
[11] Nosek, B. A., Spies, J. R. & Motyl, M. Scientific utopia: II. Restructuring incentives and practices to promote truth over publishability. Perspect. Psychol. Sci. 7, 615–631 (2012). https://doi.org/10.1177%2F1745691612459058
[12] Smaldino, P. E. & McElreath, R. The natural selection of bad science. R. Soc. Open Sci. 3, 160384 (2016).