数学2021arxiv.org编辑精选
一种新的相关系数
A New Coefficient of Correlation
进阶 · 约 60 分钟读完前置知识:概率论基础、相关性分析、假设检验
导读
这篇论文提出了一种新的相关性系数(由 Sourav Chatterjee 提出),能够检测变量之间任意形式(不限于线性)的相关关系,且计算简单高效,主要基于排序和距离计算。该论文已正式发表于《美国统计学会杂志》(JASA)。
HN 关注点:是因为发现新且实用的统计公式很罕见,而且它突破了传统皮尔逊相关系数只能衡量线性关系的局限。
HN 评论精选
这几条评论里:支持 1 补充 3
支持新系数概念直观、计算高效、适用范围广,潜在应用领域众多
这个公式有很多超酷的地方:新公式被发现总是很有趣,实用的话更是加倍有趣;它其实很容易理解;计算上似乎非常高效,基本上归结为排序和距离计算;不限于严格的数值字段(整数和实数),任何定义了顺序的东西都可以作为 X/Y:字符、单词、复数/向量(按模长)。我想甚至可以递归地应用于分治高维数据集;在线性和非平稳信号分析中都可能有用。可能的应用场景:系外行星搜索、宇宙学、生态学、气候、密码分析、医学、神经科学,当然,还会有人用它去股市里赢(更可能是输)钱。
kortex查看英文原文
There are so many super cool aspects to this! - it's always fun when a new equation or formula is discovered, doubly so when it is very practical - actually really easy to wrap your head around it - seems very computationally efficient. Basically boils down to sorts and distance - not limited to strict numeric fields ( integers and reals). Anything with an ordering defined can act as your Xs/Ys: characters, words, complex/vectors (under magnitude). I think you could even apply it recursively to divide and conquer high dimensional datasets. - looks useful in both LTI and non stationary signal analysis - possible use cases: exoplanet search, cosmology in general, ecology, climate, cryptanalysis, medicine, neuroscience, and of course, someone will find a way to win (more likely lose) money on stonks.
补充提供了可视化对比资料帮助理解新系数与传统线性相关的差异
这条推文包含线性相关与“Chatterjee 相关性”的可视化对比。
shahbazac查看英文原文
This tweet contains a visualization comparison between linear correlation and “Chatarjee correlation:” https://twitter.com/adad8m/status/1474754752193830912?s=21
补充作者 Chatterjee 学术功底深厚,值得信任
我曾参加法国 Saint-Flour 的暑期学校,Sourav Chatterjee 在那里对随机图大偏差结果做了精彩讲解,全程板书、表述清晰。我的印象是他是一位深刻的思想者。仅凭这一点,我就比对待眼前大量流水般涌来的文章更重视这篇文章;读大师之作一直是条好经验法则。
asdf_snar查看英文原文
I once attended a summer school in Saint-Flour, France, where Sourav Chatterjee gave a masterful exposition of results on large deviations for random graphs. All chalk talk, clear presentation. My impression is he's a deep thinker. On that basis alone I give such an article much more weight than the plethora of articles that pass before the eyes; reading the masters has always been a good rule of thumb.
补充补充信息:论文已正式发表于 JASA
这篇文章现已发表于《美国统计学会杂志》[2021 年第 116 卷第 536 期]。
malshe查看英文原文
This article is now published in the Journal of the American Statistical Association [Volume 116, 2021 - Issue 536] https://doi.org/10.1080/01621459.2020.1758115
相关资源
从这篇论文所有 HN 讨论帖的全部评论里整理出来的链接。
历次讨论
- 2021Hacker News 讨论帖682 分 · 158 评
同领域还值得读
数学的两种文化
The Two Cultures of Mathematics (2000)
这是数学家 Timothy Gowers 于 2000 年发表的一篇随笔,他把数学研究大致分成两种文化:一类是“解题者”,热衷于攻克具体难题、发展技巧(如组合数学);另一类是“理…
数学2009 · 307 分 · 102 评入门 · 约 35 分钟编辑精选重新定义统计显著性
Redefine statistical significance
提议将统计显著性阈值从常用的 p<0.05 收紧到 p<0.005,以降低假阳性率、缓解可重复性危机。
数学2017 · 303 分 · 114 评入门 · 约 45 分钟编辑精选统计建模:两种文化(2001)
Statistical Modeling: The Two Cultures (2001)
讨论统计学中两种建模文化:一种假设数据由某种随机模型生成,侧重推断与系数解释;另一种把数据生成机制视为未知,侧重预测精度,主张使用算法建模。
数学2015 · 254 分 · 36 评进阶 · 约 60 分钟编辑精选通信的数学理论 (1948)
A Mathematical Theory of Communication (1948)
这是香农 1948 年的经典论文《通信的数学理论》,奠定了信息论的基础。
数学2016 · 169 分 · 53 评入门 · 约 90 分钟编辑精选Hamiltonian Monte Carlo 的概念性介绍
A Conceptual Introduction to Hamiltonian Monte Carlo
是对哈密顿蒙特卡洛(HMC)的概念性导论:它借助哈密顿动力学和统计物理的直觉,把目标分布视为势能景观,引入辅助动量并利用梯度信息沿能量等高线高效采样。
数学2017 · 155 分 · 33 评 · 引用 8进阶 · 约 90 分钟编辑精选