AI 与机器学习2024arxiv.org
预训练中的程序性知识驱动大语言模型的推理
Procedural knowledge in pretraining drives reasoning in large language models
进阶 · 约 50 分钟读完前置知识：LLM 基础、预训练数据、推理评测
导读
这篇论文研究 LLM 的推理能力从何而来：通过在预训练数据中控制数学内容的比例与形式，作者发现模型的推理表现主要由预训练中获得的程序性知识（procedural knowledge）驱动，而非单纯记忆或检索训练样本。论文还指出 LLM 虽有通用解题能力，但与人类相比存在明显的推理短板，其泛化策略的稳健性值得怀疑。
HN 关注点：HN 读者长期争论 LLM 到底是'真正的推理'还是'下一个词预测/检索'，这篇论文用受控实验触及了这一核心争议，评论中出现了截然对立的解读。
HN 评论精选
这几条评论里：支持 1 质疑 1 补充 2
补充评论区对论文的解读两极分化，本身就说明人类对复杂文本的理解同样不可靠
稍微跳出来谈谈：目前评论区的观点对这篇论文的理解截然相反，这恰恰说明人们对复杂文本的解读可以有多大差异。我们对 AI 的正确性要求很高（这是应该的），但人类自己在事实层面、更别说推理的严谨性上，也并不可靠。
shermantanktop查看英文原文
Going meta a bit: comments so far on this post show diametrically opposing understandings of the paper, which demonstrates just how varied the interpretation of complex text can be. We hold AI to a pretty high standard of correctness, as we should, but humans are not that reliable on matters of fact, let alone on rigor of reasoning.
支持HN 上'LLM 只是 token 预测器'的论调与论文承认其通用解题能力的立场形成反差
论文说：一方面 LLM 展现出通用解题能力，另一方面又表现出与人类相比令人惊讶的推理缺口，让人怀疑其泛化策略的稳健性。我很惊讶这条被顶上去——HN 上有大量用户认为 LLM 根本不会推理，只能用'下一个词预测器'来描述它。上次我讨论 LLM 智能时，还有人粗鲁地让我去'学学 LLM 的原理，我们已经完全知道它们只是 token 预测器'。
ninetyninenine查看英文原文
>On the one hand, LLMs demonstrate a general ability to solve problems. On the other hand, they show surprising reasoning gaps when compared to humans, casting doubt on the robustness of their generalisation strategies surprised this gets voted up given the surprising amount of users on HN who think LLMs can't reason at all and that the only way to characterize an LLM is through the lens of a next token predictor. Last time I was talking about LLM intelligence someone rudely told me to read up on how LLMs work and that we already know exactly how they work and they're just token predictors.
质疑LLM 更像是在已有解法上做小幅外推而非检索；'推理'一词是营销话术，但自然语言指令执行仍是巨大进步
在我看来很明显，LLM 不可能在训练数据里找到每个问题的现成例子——没有足够多的样本支撑信息检索式的查找。我更相信它们是在做某种外推，为问题生成新解法。有趣的是这篇论文并不与 Apple 的 GSM-Symbolic 论文（通过篡改 prompt 迫使 LLM 出错）的结论矛盾；我也可以相信 LLM 只能在已有示例解法的基础上做小幅偏离。我讨厌用'推理'来称呼这种解法生成过程——这是 LLM 公司造出来的词，用来唤起情绪化的联想。不过，能用自然语言以一定模糊度指示机器按步骤执行，这本身就是巨大的进步。
rors查看英文原文
It seems obvious to me that LLMs wouldn't be able to find examples of every single problem posed to them in training data. There wouldn't be enough examples for the factual look up needed in an information retrieval style search. I can believe that they're doing some form of extrapolation to create novel solutions to posed problems. It's interesting that this paper doesn't contradict the conclusions of the Apple LLM paper[0], where prompts were corrupted to force the LLM into making errors. I can also believe that LLMs can only make small deviations from existing example solutions in creation of these novel solutions. I hate that we're using the term "reasoning" for this solution generation process. It's a term coined by LLM companies to evoke an almost emotional response on how we talk about this technology. However, it does appear that we are capable of instructing machines to follow a series of steps using natural language, with some degree of ambiguity. That in of itself is a huge stride forward. [0] https://machinelearning.apple.com/research/gsm-symbolic
补充好奇是否用学生笔记、试卷等'过程性'语料训练能提升推理能力
这是否意味着，如果用大量学生笔记、试卷、书评之类的数据来训练，LLM 可能会表现更好？那将非常有趣。
ricardobeat查看英文原文
Does this mean LLMs might do better if trained on large amounts of student notes, exams, book reviews and such? That would be incredibly interesting.
相关资源
从这篇论文所有 HN 讨论帖的全部评论里整理出来的链接。
历次讨论
- 2024Hacker News 讨论帖248 分 · 101 评
同领域还值得读
DeepSeek-R1：通过强化学习激励 LLM 的推理能力
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via RL
研究如何用强化学习激励大语言模型的推理能力，提出 DeepSeek-R1，并探讨 RL 训练对模型推理表现的影响。
AI 与机器学习2025 · 1,351 分 · 1,056 评 · 引用 30进阶 · 约 80 分钟编辑精选1-bit LLM 时代：面向低成本计算的三值参数
The Era of 1-bit LLMs: ternary parameters for cost-effective computing
提出用三值参数 {-1, 0, 1} 替代 LLM 中的浮点权重，即所谓“1-bit LLM”。
AI 与机器学习2024 · 1,040 分 · 447 评 · 引用 19进阶 · 约 45 分钟编辑精选DeepSeek-V3.2：推进开放大语言模型的前沿
DeepSeek-v3.2: Pushing the frontier of open large language models
这是 DeepSeek-V3.2 的技术报告，延续了 DeepSeek 开源权重模型的路线，目标是让开放模型继续逼近甚至追平前沿闭源模型。
AI 与机器学习2025 · 982 分 · 465 评进阶 · 约 90 分钟编辑精选通过自我对弈与通用强化学习掌握国际象棋和将棋（AlphaZero）
Mastering Chess and Shogi by Self-Play with General Reinforcement Learning
DeepMind 的 AlphaZero 论文：用通用强化学习算法（自我博弈 + MCTS + 神经网络），从零开始仅数小时训练便在国际象棋和将棋上击败了世界顶级引擎 Stock…
AI 与机器学习2017 · 539 分 · 270 评 · 引用 13进阶 · 约 90 分钟编辑精选用强化学习发现更快的矩阵乘法算法
Discovering faster matrix multiplication algorithms with reinforcement learning
论文提出 AlphaTensor，用强化学习搜索矩阵乘法算法。
AI 与机器学习2022 · 518 分 · 111 评专业 · 约 90 分钟编辑精选