AI 与机器学习2018www-isl.stanford.edu
神经网络的基本思想（1994）
The Basic Ideas in Neural Networks (1994)
入门 · 约 45 分钟读完前置知识：基础微积分、机器学习基本概念
导读
这是 Widrow 1994 年的论文，回顾神经网络的基本思想，用平实语言讲解神经网络的核心概念与应用经验。文中引用了 Rumelhart 等早期神经网络研究的经典文献，是了解神经网络早期发展脉络的入门材料。
HN 关注点：这篇 1994 年的老论文，感叹早期论文的写作质量和平易近人的讲解风格，并借此讨论神经网络研究的历史脉络。
HN 评论精选
这几条评论里：支持 1 质疑 1 补充 2
补充发现作者主页公开了大量论文，是宝藏资料库
哇，太酷了，它的上级目录居然是公开可访问的，而且内容非常丰富。当然，这里也有索引：http://www-isl.stanford.edu/~widrow/publications.html 里面有像《用奈奎斯特采样理论研究粗幅度量化》(1956) 这样的珍品，我敢说有人能从这些资料里读上好几天。
kleer001查看英文原文
Whoa, cool, the parent directory is publicly accessible! And it's chockablock full. Of course it's indexed here: http://www-isl.stanford.edu/~widrow/publications.html With gems like: A study of rough amplitude quantization by means of Nyquist sampling theory (1956) I bet someone'll get a few days reading outta this.
质疑感慨老文章平均质量高于今天，探讨原因
我想知道为什么很久以前写的文章往往平均质量比今天的高得多。我不确定唯一原因是只有高质量的东西才能留存下来，还是因为如今任何人都能在网上发表任何东西，从而降低了门槛。感觉即使是今天最好的作品，也很少能达到过去平均水平的高度。
tw1010查看英文原文
I wonder why it is that articles written from way back when very often seem to have a way higher average quality than the stuff written today. I'm not sure the sole reason is that the only thing that survives is the high quality stuff, or because anyone can publish anything on the web, thus lowering the bar. It feels like even the peak of what we find today is rarely as good as the average found back then.
补充补充 PDP 术语背景：Rumelhart 等人是认知科学家出身
Rumelhart 是多卷本著作《Parallel Distributed Processing》的合著者。PDP 是 80 年代 Rumelhart 和 McClelland 重新推广人工神经网络技术时使用的旧术语。有趣的是，Rumelhart 和 McClelland 是认知科学家出身，而不是计算机科学家。
pdpfan查看英文原文
Rumelhart is the co-author of a multi volume work called "Parallel Distributed Processing". PDP was the old term in use when Rumelhart and McClelland repopularized artificial neural network techniques in the 80s. Interestingly enough, rumelhart and McClelland were cognitive scientists by training, not computer scientist ones.
支持称赞论文平实易懂，并注意到 Hinton 早期就被引用
读起来出奇地轻松，用平实的语言解释。我不记得神经网络的文章曾经这么通俗易懂，尤其是老文章。文中关于成功应用的建议读起来很有趣，里面每个词后来都成了无数篇论文的主题。我在参考文献里看到了 Hinton，哈哈，那时神经网络还是个笑话，而他已经很有名了。
visarga查看英文原文
Shockingly easy to read, explained in plain language. I didn't remember neural net articles being so accessible, especially old ones. Hints for successful application are funny to read. Each and every word in there has been the subject of tons of papers. * spotted Hinton in references, hehe, he was famous when neural nets were a joke
历次讨论
- 2018Hacker News 讨论帖181 分 · 16 评
同领域还值得读
DeepSeek-R1：通过强化学习激励 LLM 的推理能力
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via RL
研究如何用强化学习激励大语言模型的推理能力，提出 DeepSeek-R1，并探讨 RL 训练对模型推理表现的影响。
AI 与机器学习2025 · 1,351 分 · 1,056 评 · 引用 30进阶 · 约 80 分钟编辑精选1-bit LLM 时代：面向低成本计算的三值参数
The Era of 1-bit LLMs: ternary parameters for cost-effective computing
提出用三值参数 {-1, 0, 1} 替代 LLM 中的浮点权重，即所谓“1-bit LLM”。
AI 与机器学习2024 · 1,040 分 · 447 评 · 引用 19进阶 · 约 45 分钟编辑精选DeepSeek-V3.2：推进开放大语言模型的前沿
DeepSeek-v3.2: Pushing the frontier of open large language models
这是 DeepSeek-V3.2 的技术报告，延续了 DeepSeek 开源权重模型的路线，目标是让开放模型继续逼近甚至追平前沿闭源模型。
AI 与机器学习2025 · 982 分 · 465 评进阶 · 约 90 分钟编辑精选通过自我对弈与通用强化学习掌握国际象棋和将棋（AlphaZero）
Mastering Chess and Shogi by Self-Play with General Reinforcement Learning
DeepMind 的 AlphaZero 论文：用通用强化学习算法（自我博弈 + MCTS + 神经网络），从零开始仅数小时训练便在国际象棋和将棋上击败了世界顶级引擎 Stock…
AI 与机器学习2017 · 539 分 · 270 评 · 引用 13进阶 · 约 90 分钟编辑精选用强化学习发现更快的矩阵乘法算法
Discovering faster matrix multiplication algorithms with reinforcement learning
论文提出 AlphaTensor，用强化学习搜索矩阵乘法算法。
AI 与机器学习2022 · 518 分 · 111 评专业 · 约 90 分钟编辑精选