AI 与机器学习2024arxiv.org
无需搜索达到国际象棋特级大师水平
Grandmaster-Level Chess Without Search
进阶 · 约 60 分钟读完前置知识:强化学习基础、Transformer 基础、国际象棋基本规则
导读
这篇论文研究能否让神经网络在不进行树搜索的情况下达到国际象棋特级大师水平。作者用 Stockfish 对大量棋局局面做动作价值标注,训练一个 2.7 亿参数的 Transformer 来预测这些价值,并直接据此选步。结果表明,模型在推理时不做任何搜索即可下出特级大师水平的棋。
HN 关注点:训练依赖 Stockfish 搜索来标注数据,那“无搜索”的说法是否成立,以及这是否只是规模/蒸馏的探索。
HN 评论精选
这几条评论里:质疑 2 补充 1
质疑质疑标题,指出训练用了 Stockfish 搜索评估,认为这实际上是规模探索。
既然他们使用了 Stockfish(一个带搜索的引擎)的位置评估,这怎么能叫“无搜索”?补充:进一步阅读后发现,这更像是对强大引擎所需规模的探索。标题里或许可以去掉“无搜索”。
fiforpg查看英文原文
Given that they used position evaluation from (a search chess engine[1]) Stockfish, how is this "without search"? Edit: looking further than the abstract, this is rather an exploration of scale necessary for a strong engine. Could go without "without search" in the title I guess. [1]: IIRC, it also uses a Leela-inspired NN for evaluation.
补充澄清搜索仅用于标注训练数据和避免已胜局面的病态走法,实际对弈无搜索,标题合理。
对文章部分内容存在广泛误解,我来澄清一下 :) 这个“无搜索”国际象棋引擎在两种情况下使用了搜索(Stockfish):1. 为训练数据中的局面打分。这只是训练数据,实际对弈时不进行搜索。2. 当局面有很多选择且胜率99%时用来走棋。这是为了防止已胜局面出现病态行为,对“特级大师水平”这一目标并不“重要”。因此,“无搜索”是合理的描述。
paulddraper查看英文原文
There is rampant misunderstanding of some parts of this article; allow me to help :) The "no-search" chess engine uses search (Stockfish) in in two ways: 1. To score positions in the training data. This is only training data, no search is performed when actually playing. 2. To play moves when the position has many options with a 99% win rate. This is to prevent pathological behavior in already won positions, and is not "meaningful" in the objective of grandmaster-level play. Thus, "without search" is a valid description.
质疑讽刺性地指出该方法类似迭代自我训练/AlphaZero式自举循环。
通往 AGI 的路径:0. 有模型 A;1. 用 A 做蒙特卡洛得到监督数据;2. 用 A 的数据训练模型 B;3. 用 B 做蒙特卡洛得到监督数据;4. 用 B 的数据训练模型 C……
xianshou查看英文原文
The path to AGI: 0. Have model A. 1. Use Monte Carlo with A to get supervised data. 2. Train model B with data from A. 3. Use Monte Carlo with B to get supervised data. 4. Train model C with data from B...
相关资源
从这篇论文所有 HN 讨论帖的全部评论里整理出来的链接。
历次讨论
- 2024Hacker News 讨论帖198 分 · 130 评
同领域还值得读
DeepSeek-R1:通过强化学习激励 LLM 的推理能力
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via RL
研究如何用强化学习激励大语言模型的推理能力,提出 DeepSeek-R1,并探讨 RL 训练对模型推理表现的影响。
AI 与机器学习2025 · 1,351 分 · 1,056 评 · 引用 30进阶 · 约 80 分钟编辑精选1-bit LLM 时代:面向低成本计算的三值参数
The Era of 1-bit LLMs: ternary parameters for cost-effective computing
提出用三值参数 {-1, 0, 1} 替代 LLM 中的浮点权重,即所谓“1-bit LLM”。
AI 与机器学习2024 · 1,040 分 · 447 评 · 引用 19进阶 · 约 45 分钟编辑精选DeepSeek-V3.2:推进开放大语言模型的前沿
DeepSeek-v3.2: Pushing the frontier of open large language models
这是 DeepSeek-V3.2 的技术报告,延续了 DeepSeek 开源权重模型的路线,目标是让开放模型继续逼近甚至追平前沿闭源模型。
AI 与机器学习2025 · 982 分 · 465 评进阶 · 约 90 分钟编辑精选通过自我对弈与通用强化学习掌握国际象棋和将棋(AlphaZero)
Mastering Chess and Shogi by Self-Play with General Reinforcement Learning
DeepMind 的 AlphaZero 论文:用通用强化学习算法(自我博弈 + MCTS + 神经网络),从零开始仅数小时训练便在国际象棋和将棋上击败了世界顶级引擎 Stock…
AI 与机器学习2017 · 539 分 · 270 评 · 引用 13进阶 · 约 90 分钟编辑精选用强化学习发现更快的矩阵乘法算法
Discovering faster matrix multiplication algorithms with reinforcement learning
论文提出 AlphaTensor,用强化学习搜索矩阵乘法算法。
AI 与机器学习2022 · 518 分 · 111 评专业 · 约 90 分钟编辑精选