数学2022arxiv.org
人工智能的数学(2022)
The Mathematics of Artificial Intelligence (2022)
专业 · 约 75 分钟读完前置知识:线性代数、概率论、深度学习基础
导读
这篇综述讨论人工智能——尤其是深度神经网络——的数学基础,梳理相关理论工具与当前挑战。它试图回答 AI 的成功背后有哪些数学支撑,以及理论理解上仍存在哪些缺口。
HN 关注点:集中在标题术语(AI vs 神经网络)、现代“AI 数学”是否变窄,以及是否有材料解释网络设计取舍背后的数学后果。
HN 评论精选
这几条评论里:质疑 2 补充 2
质疑认为标题应聚焦神经网络,并质疑“AI”术语的泛化使用。
粗看之后,我感觉叫《神经网络的数学》更合适?近年来,人们常用“人工智能”一词来替代“神经网络”。如果将来又变了,我也不会惊讶。如果有证据表明不会变、并且神经网络在某种意义上是最优的智能载体,我很想读一读。
mg查看英文原文
After a cursory glance, my feeling is that "The Mathematics of Neuronal Networks" would be a better title? In recent years, the term "Artificial Intelligence" is often used instead of "Neuronal Networks". I wouldn't be surprised if this will change again. If there is evidence that it will not and Neuronal Networks are for some reason the optimal medium for intelligence, I would love to read about it.
补充分享一本机器学习数学书,并顺势求后续书单。
我正在读《Mathematics for Machine Learning》第4章,目前挺喜欢:https://mml-book.github.io/ 学完这些数学后,接下来该读哪些机器学习书?
melling查看英文原文
I’m on Chapter 4 of the Mathematics for Machine Learning. Enjoying it so far: https://mml-book.github.io/ After learning the math, which machine learning books come next?
质疑认为现代“AI 数学”的范围比早期 AI 数学窄得多。
和 Edward Bender 的旧书相比,“AI 的数学”似乎已经变成了一个非常狭窄的课题。
wrp查看英文原文
When you compare it to Edward Bender's old book[1], the "math of AI" seems to have become a very narrow subject. [1] https://www.amazon.com/Mathematical-Methods-Artificial-Intelligence-Edward/dp/0818672005/
补充想找解释神经网络设计取舍与经验技巧背后数学原因的材料。
有没有人知道专注于人工神经网络数学的“后果”的教材、文章或材料?例如:为什么在这个问题里,用更多层比用更大的层更高效或更不高效;或者结果的分支式演化相对于单一流程的密集计算等。某种对技巧的有理有据的总结(“这之所以有效是因为那个”)。
mdp2021查看英文原文
Does anybody know of textbooks, or articles, material etc. that focus on the /consequences/ of the mathematics of ANNs? For example: why in this problem using more layers is more or less efficient than using bigger layers, or branching evolutions of the outcomes as opposed to intensive computation of a single flow etc. A reasoned summary of the tricks, in a way ("this works because of that").
相关资源
从这篇论文所有 HN 讨论帖的全部评论里整理出来的链接。
- 评论区提到的论文
- arxiv.org/abs/2106.10165被提到 2 次
历次讨论
- 2022Hacker News 讨论帖181 分 · 58 评
同领域还值得读
一种新的相关系数
A New Coefficient of Correlation
提出了一种新的相关性系数(由 Sourav Chatterjee 提出),能够检测变量之间任意形式(不限于线性)的相关关系,且计算简单高效,主要基于排序和距离计算。
数学2021 · 682 分 · 158 评 · 引用 1进阶 · 约 60 分钟编辑精选数学的两种文化
The Two Cultures of Mathematics (2000)
这是数学家 Timothy Gowers 于 2000 年发表的一篇随笔,他把数学研究大致分成两种文化:一类是“解题者”,热衷于攻克具体难题、发展技巧(如组合数学);另一类是“理…
数学2009 · 307 分 · 102 评入门 · 约 35 分钟编辑精选重新定义统计显著性
Redefine statistical significance
提议将统计显著性阈值从常用的 p<0.05 收紧到 p<0.005,以降低假阳性率、缓解可重复性危机。
数学2017 · 303 分 · 114 评入门 · 约 45 分钟编辑精选统计建模:两种文化(2001)
Statistical Modeling: The Two Cultures (2001)
讨论统计学中两种建模文化:一种假设数据由某种随机模型生成,侧重推断与系数解释;另一种把数据生成机制视为未知,侧重预测精度,主张使用算法建模。
数学2015 · 254 分 · 36 评进阶 · 约 60 分钟编辑精选通信的数学理论 (1948)
A Mathematical Theory of Communication (1948)
这是香农 1948 年的经典论文《通信的数学理论》,奠定了信息论的基础。
数学2016 · 169 分 · 53 评入门 · 约 90 分钟编辑精选