科学在改变,我也能改变吗?
科学在改变。 尽管变革很难,但我一直在努力调和自己的私利追求(例如,正确,任职)与我认为跨科学的方法论和统计方法的重大变革之间的矛盾。 对于拥有旧习惯的我们来说,这段过渡时期可能会是一个艰难的时期:即使我对诸如预注册,直接复制,开放科学以及结束可疑的研究实践之类的许多雄辩而合乎逻辑的论点深信不疑,事实是,承认我们之前做错了事就意味着我之前做错了事–我可能在这里是因为我做了我现在认为是客观错误的事情。 那是很难吞下的药。 这些艰辛的认识需要作出回应,在过去的三年中,我试图改变自己的科学方法。 这包括在我的实验室中转向更直接的复制,手稿的开放数据和材料,具有更高统计能力的设计-包括更大的N和在主题设计中的使用,避免有问题的研究实践(例如,可选的停止,选择性的报告,异常排除),预注册和另一种手稿审阅方法,除了理论和新颖性外,还涉及权衡证据的实力。 我已经成功地改变了我进行科学的方式吗? 让我们看一下证据。 像我一些更勇敢的同事一样,我从2009年1月开始对我所有已发表的个人研究进行了审核。我根据自己对可疑的研究实践和开放科学的认识,将发表的记录分为两半。 2011年末至2012年初。2009年至2012年之间发表的研究代表了我的认识前时期,而2013年至今的研究则来自我的认识后时期。 为了评估我在这两个时期中方法学实践的质量,我使用了每个研究中最相关的假设来确定焦点统计测试,然后在此处的电子表格中记录了该焦点测试的测试统计信息。 然后,我将焦点统计信息插入到p-checker应用程序中。 结果总结如下: 从这些数据中可以看到,在意识前和意识后时期之间的所有发布偏见度量上都有改进。 除了p曲线外,我的意识前R指数和方差不足检验(TIVA)与存在不健康的出版偏见相一致-第一个(R-Index)暗示成功复制的可能性,而第二(TIVA)表明研究结果之间的差异可能会因出版偏倚而减少。 相比之下,意识后时期显示出发布偏倚的所有三个指标都有所改善(尽管TIVA仍<1)。 我为曾经去过的地方而感到沮丧,但为自己要去的地方感到自豪。 您还可以看到一些变化的设计选择反映在我的意识后期。…