数学2025arxiv.org
矩阵微积分（面向机器学习及更广领域）
Matrix Calculus (For Machine Learning and Beyond)
进阶 · 约 90 分钟读完前置知识：线性代数、多元微积分、泰勒展开
导读
这篇论文是一份面向机器学习及更广泛应用的矩阵微积分教程，系统讲解对标量、向量和矩阵值函数求导的运算法则。矩阵微积分是推导梯度、反向传播和优化算法的数学基础，这类系统化参考一直很受从业者欢迎。
HN 关注点：矩阵微积分是理解机器学习梯度与优化的基础，讨论焦点集中在高效的学习方法（如泰勒展开技巧）和实用参考资料上。
HN 评论精选
这几条评论里：补充 3
补充矩阵微积分的真正基础是泰勒展开和线性代数，用泰勒展开推导恒等式远比手工求偏导高效；且雅可比与梯度并非同一概念。
想熟练掌握矩阵微积分，真正的先修知识是熟悉泰勒展开和线性代数。十多年前我上研究生数值优化课时，教授第一天花了 10 分钟，用基本求导法则加大量手工推导，算出一个矩阵微积分恒等式的偏导数。课程快结束时他开玩笑说：'开个玩笑，别那么做……看看用泰勒展开怎么做'，然后大约 30 秒就推导出了同一个恒等式。另外，别忘了雅可比矩阵和梯度不是一回事！
sfpotter查看英文原文
If you want to get handy with matrix calculus, the real prerequisite is being comfortable with Taylor expansions and linear algebra. In a graduate numerical optimization class I took over a decade ago, the professor spent 10 minutes on the first day deriving some matrix calculus identity by working out the expressions for partial derivatives using simple calculus rules and a lot of manual labor. Then, as the class was winding up, he joked and said "just kidding, don't do that... here's how we can do this with a Taylor expansion", and proceeded to derive the same identity in what felt like 30 seconds. Also, don't forget the Jacobian and gradient aren't the same thing!
补充推荐经典参考《The Matrix Cookbook》作为学习资料。
学习这个主题时，《矩阵手册》（The Matrix Cookbook）会非常实用：https://www.math.uwaterloo.ca/~hwolkowi/matrixcookbook.pdf
dandanua查看英文原文
The Matrix Cookbook [1] can be handy when learning this topic. https://www.math.uwaterloo.ca/~hwolkowi/matrixcookbook.pdf
补充推荐另一篇更精简的矩阵微积分入门文章（arXiv 1802.01528）。
想要更简短的入门材料，可以参考 https://arxiv.org/abs/1802.01528
i_am_proteus查看英文原文
Those looking for a shorter primer could consult https://arxiv.org/abs/1802.01528
相关资源
从这篇论文所有 HN 讨论帖的全部评论里整理出来的链接。
- 代码
- 视频与演讲
- youtu.be/O85OWBJ2ayo被提到 2 次
- 评论区提到的论文
历次讨论
- 2025Hacker News 讨论帖183 分 · 30 评
同领域还值得读
一种新的相关系数
A New Coefficient of Correlation
提出了一种新的相关性系数（由 Sourav Chatterjee 提出），能够检测变量之间任意形式（不限于线性）的相关关系，且计算简单高效，主要基于排序和距离计算。
数学2021 · 682 分 · 158 评 · 引用 1进阶 · 约 60 分钟编辑精选数学的两种文化
The Two Cultures of Mathematics (2000)
这是数学家 Timothy Gowers 于 2000 年发表的一篇随笔，他把数学研究大致分成两种文化：一类是“解题者”，热衷于攻克具体难题、发展技巧（如组合数学）；另一类是“理…
数学2009 · 307 分 · 102 评入门 · 约 35 分钟编辑精选重新定义统计显著性
Redefine statistical significance
提议将统计显著性阈值从常用的 p<0.05 收紧到 p<0.005，以降低假阳性率、缓解可重复性危机。
数学2017 · 303 分 · 114 评入门 · 约 45 分钟编辑精选统计建模：两种文化（2001）
Statistical Modeling: The Two Cultures (2001)
讨论统计学中两种建模文化：一种假设数据由某种随机模型生成，侧重推断与系数解释；另一种把数据生成机制视为未知，侧重预测精度，主张使用算法建模。
数学2015 · 254 分 · 36 评进阶 · 约 60 分钟编辑精选通信的数学理论 (1948)
A Mathematical Theory of Communication (1948)
这是香农 1948 年的经典论文《通信的数学理论》，奠定了信息论的基础。
数学2016 · 169 分 · 53 评入门 · 约 90 分钟编辑精选