专题阅读路线10 篇约 7 小时读完
推理模型边界
从幻觉的必然性到推理的脆弱边界
这条路线沿着“推理模型到底能推理多远”展开：从幻觉为何不可消除的理论论证，到数学题、简单谜题、多轮对话中一步步暴露的能力边界，最后落到如何检测与共存的实践视角。适合想理性评估大模型推理能力、避免被演示性成绩迷惑的研究者与工程师；读完你将获得一套判断模型推理稳健性的问题意识与检测工具。
阅读顺序
- 01
幻觉不可避免：大语言模型的内在局限
Hallucination is inevitable: An innate limitation of large language models
开篇立论：用可计算性理论说明幻觉是大模型固有局限，为全路线定调。
AI 与机器学习2024 · 308 分 · 474 评 · 引用 23进阶 · 约 60 分钟 - 02
理解 LLM 中数学推理的局限性
Understanding the Limitations of Mathematical Reasoning in LLMs
引入 GSM-Symbolic：仅改人名数字就致准确率下滑，实证推理并不稳健。
AI 与机器学习2024 · 282 分 · 266 评 · 引用 19入门 · 约 45 分钟编辑精选 - 03
Putnam 问题轻微变化时 O1-preview 准确率下降 30%
30% drop in O1-preview accuracy when Putnam problems are slightly variated
把稳健性问题推向更难的 Putnam 题，轻微改写即降 30%，边界进一步收窄。
AI 与机器学习2025 · 560 分 · 526 评入门 · 约 30 分钟 - 04
简单任务暴露最先进 LLM 的推理缺陷
Simple tasks showing reasoning breakdown in state-of-the-art LLMs
用人类眼中的简单题暴露最强模型的推理缺陷，说明问题不在难度而在模式。
AI 与机器学习2024 · 375 分 · 380 评 · 引用 8入门 · 约 30 分钟 - 05
思维链会在人类思考反而变差的任务上损害性能
Chain-of-thought can hurt performance on tasks where thinking makes humans worse
转折点：思维链也非万能，某些任务上逐步推理反而损害性能。
AI 与机器学习2024 · 371 分 · 250 评入门 · 约 30 分钟 - 06
思维的错觉：推理模型的能力与局限
The Illusion of Thinking: Strengths and limitations of reasoning models
聚焦 o1/R1 类推理模型本身，在谜题任务上系统刻画其真实能力与局限。
AI 与机器学习2025 · 488 分 · 270 评进阶 · 约 50 分钟 - 07
LLM 在多轮对话中迷失方向
LLMs get lost in multi-turn conversation
把边界扩展到多轮对话场景，展示长程交互中的迷失与退化。
AI 与机器学习2025 · 374 分 · 259 评 · 引用 3进阶 · 约 45 分钟 - 08
推理模型推理得很好，直到它们不再如此
Reasoning models reason well, until they don't
收束主线：直接检验推理复杂度上升时 LRM 何时失效，给出边界刻画。
AI 与机器学习2025 · 218 分 · 217 评进阶 · 约 45 分钟 - 09
利用语义熵检测大语言模型中的幻觉
Detecting hallucinations in large language models using semantic entropy
结尾给出出路：语义熵提供检测幻觉的实用方法，从诊断走向应对。
AI 与机器学习2024 · 254 分 · 179 评进阶 · 约 60 分钟编辑精选 - 10
LLMs 将始终产生幻觉，我们需要接受这一点
LLMs Will Always Hallucinate, and We Need to Live with This
从数学角度再次论证幻觉必然性，呼应并补强第一篇的理论结论。
AI 与机器学习2024 · 291 分 · 261 评 · 引用 5入门 · 约 30 分钟