数学2017nature.com编辑精选
重新定义统计显著性
Redefine statistical significance
入门 · 约 45 分钟读完前置知识:假设检验基础、p 值的含义
导读
这篇论文提议将统计显著性阈值从常用的 p<0.05 收紧到 p<0.005,以降低假阳性率、缓解可重复性危机。作者指出在保持 80% 统计功效的前提下,这一改变通常需要将样本量增加约 70%,但换来的收益是假阳性率通常下降超过一半。
HN 关注点:p 值阈值和可重复性危机是 HN 上长期热议的方法学话题,这篇由多位知名统计学者联署的提议引发了关于其利弊的激烈讨论。
后来怎么样
这篇论文引发了统计学界关于显著性阈值的广泛争论,2019 年美国统计学会等机构发表声明反对一刀切设定阈值,此后 'statistical significance' 一词在多个顶级期刊被弃用,推动了向效应量和区间估计的范式转变。
HN 评论精选
这几条评论里:支持 1 质疑 2 补充 1
支持支持该提议:成本合理,假阳性率大幅下降带来的收益远超代价。
论文指出:对许多常见统计检验,把阈值从 α=0.05 收紧到 α=0.005 并保持 80% 功效,需要样本量增加约 70%。这个提议是很务实的进步——虽不能解决所有问题,但成本合理、收益巨大。样本量增加意味着同样预算下能做的研究更少,但图 2 显示假阳性率通常会降低两倍以上,因此避免基于错误前提开展后续研究,反而能节省大量资源。
imh查看英文原文
>For a wide range of common statistical tests, transitioning from a P value threshold of α = 0.05 to α = 0.005 while maintaining 80% power would require an increase in sample sizes of about 70%. This proposal is a great pragmatic step forward. Like they say in the paper, it doesn't solve all problems, but it would be an improvement with reasonable cost and tremendous benefits. >Such an increase means that fewer studies can be conducted using current experimental designs and budgets. But Fig. 2 shows the benefit: false positive rates would typically fall by factors greater than two. Hence, considerable resources would be saved by not performing future studies based on false premises.
补充担忧对青年学者的负面影响,需配套改革评价体系。
这个提议没问题,但如果不伴随其他改革,会伤害年轻科学家。我们需要为发表零结果(null results)给予认可,或停止以论文数量评价研究者。更大规模、功效更高的研究是好事,但这也容易导致采集多个指标后被不当的数据挖掘,而且大课题经费会流向资深学者,新研究者拿到的资助会更少。
SubiculumCode查看英文原文
This is fine, but without other simultaneous changes, will do harm to young scientists. We need credit for publishing null results, or stop judgment on the basis of publication number. Would lead to larger, more well powered studies (good), but this tends to lead to acquiring multiple measures which can be inappropriately data-mined, and leads to large grants to established investigators, but fewer grants to new investigators.
质疑认为只是治标之策,根本出路在于教育和审稿文化。
这几乎不会有害,但终究只是权宜之计。它解决不了发表偏倚——人们仍会在拿到数据后更改假设或检验方法。我认为更好的出路是加强科学哲学和统计学教育(这也能培养出更好的审稿人)。
gattilorenz查看英文原文
It can hardly hurt, but it is still a stop gap measure. It won't solve the publication bias people will still change the hypothesis or the test after measurements are done. I think the situation would improve with better teaching of philosophy of science and statistics (this would educate better reviewers too).
质疑质疑一刀切收紧阈值,大数据场景下小 p 值不代表效应有意义。
不太喜欢这个想法。比如分析 Twitter 数据的人,因为分析了数百万条推文,很容易得到极小的 p 值,尽管发现的效应本身非常微弱。
jimmar查看英文原文
Not a huge fan of this idea. For example, people who analyze twitter data can get very small p-values because they analyze millions of tweets even though the effects they find are very small. See https://papers.ssrn.com/sol3/papers.cfm?abstract_id=1336700
历次讨论
- 2017Hacker News 讨论帖303 分 · 114 评
同领域还值得读
一种新的相关系数
A New Coefficient of Correlation
提出了一种新的相关性系数(由 Sourav Chatterjee 提出),能够检测变量之间任意形式(不限于线性)的相关关系,且计算简单高效,主要基于排序和距离计算。
数学2021 · 682 分 · 158 评 · 引用 1进阶 · 约 60 分钟编辑精选数学的两种文化
The Two Cultures of Mathematics (2000)
这是数学家 Timothy Gowers 于 2000 年发表的一篇随笔,他把数学研究大致分成两种文化:一类是“解题者”,热衷于攻克具体难题、发展技巧(如组合数学);另一类是“理…
数学2009 · 307 分 · 102 评入门 · 约 35 分钟编辑精选统计建模:两种文化(2001)
Statistical Modeling: The Two Cultures (2001)
讨论统计学中两种建模文化:一种假设数据由某种随机模型生成,侧重推断与系数解释;另一种把数据生成机制视为未知,侧重预测精度,主张使用算法建模。
数学2015 · 254 分 · 36 评进阶 · 约 60 分钟编辑精选通信的数学理论 (1948)
A Mathematical Theory of Communication (1948)
这是香农 1948 年的经典论文《通信的数学理论》,奠定了信息论的基础。
数学2016 · 169 分 · 53 评入门 · 约 90 分钟编辑精选Hamiltonian Monte Carlo 的概念性介绍
A Conceptual Introduction to Hamiltonian Monte Carlo
是对哈密顿蒙特卡洛(HMC)的概念性导论:它借助哈密顿动力学和统计物理的直觉,把目标分布视为势能景观,引入辅助动量并利用梯度信息沿能量等高线高效采样。
数学2017 · 155 分 · 33 评 · 引用 8进阶 · 约 90 分钟编辑精选