AI 与机器学习2025arxiv.org
DeepRAG：面向大语言模型的逐步思考检索
DeepRAG: Thinking to retrieval step by step for large language models
进阶 · 约 60 分钟读完前置知识：检索增强生成（RAG）基础、马尔可夫决策过程、大模型微调
导读
DeepRAG 提出将检索增强生成（RAG）建模为马尔可夫决策过程，让大模型逐步“思考”并自主决定每一步是检索外部知识还是依靠自身参数化知识，从而提升问答准确性。论文报告该方法可将答案准确率提升约 21.99%。
HN 关注点：RAG 与推理结合的新范式，讨论焦点包括论文标题的英文表达、延迟等代价是否被充分讨论，以及如何与 Agent Workflow Memory 等相关工作比较。
HN 评论精选
这几条评论里：质疑 1 补充 2
补充求推荐可本地部署的类似 RAG+推理方案
不错！有人能推荐一个用现有工具实现类似功能的本地开发方案吗？比如导入约一万页数据手册等 PDF 文档，还要有类似 curl 的导入器。我想摆脱那些“技术巨兽”，实现类似 OpenAI Search + Reason 的本地功能。六个月前第一次尝试时放弃了 Langchain。
brunohaid查看英文原文
Noice! Does anyone have a good recommendation for a local dev setup that does something similar with available tools? Ie incorporates a bunch of PDFs (~10,000 pages of datasheets) and other docs, as well as a curl style importer? Trying to wean myself off the next tech molochs, ideally with local functionality similar to OpenAIs Search + Reason, and gave up on Langchain during my first attempt 6 months ago.
质疑质疑论文未充分讨论延迟等代价及可复现性
这个标题对英语母语者来说读起来很别扭。我在 PDF 里搜“latency”只找到一处，提到朴素 RAG 会带来延迟。那么实现宣称的“答案准确率提升 21.99%”在延迟和其他方面有哪些权衡？有没有不用自己写实现就能复现这些结果的方法？
jondwillis查看英文原文
The title reads awkwardly to a native English speaker. A search of the PDF for "latency" returns one result, discussing how naive RAG can result in latency. What are the latency impacts and other trade-offs to achieve the claimed "[improved] answer accuracy by 21.99%"? Is there any way that I could replicate these results without having to write my own implementation?
补充与 Agent Workflow Memory 对比：微调 vs 上下文学习
这让我想起 Agent Workflow Memory（AWM）论文 [1]，它也试图为基于 LLM 的智能体寻找最优决策路径，但依赖上下文学习，而 DeepRAG 则通过微调让模型决定何时检索外部知识。我一直在想如何把 AWM 改造成用微调或外部知识系统（RAG）——把它发现的“好”工作流固化下来，而不是纯靠提示词。[1] https://arxiv.org/abs/2409.07429
mkw5053查看英文原文
This reminds me of the Agent Workflow Memory (AWM) paper [1], which also tries to find optimal decision paths for LLM-based agents but relies on in-context learning, whereas DeepRAG fine-tunes models to decide when to retrieve external knowledge. I’ve been thinking about how modifying AWM to use fine-tuning or an external knowledge system (RAG) might work—capturing the ‘good’ workflows it discovers rather than relying purely on prompting. [1] https://arxiv.org/abs/2409.07429 - Agent Workflow Memory (Wang et al., 2024)
相关资源
从这篇论文所有 HN 讨论帖的全部评论里整理出来的链接。
历次讨论
- 2025Hacker News 讨论帖191 分 · 29 评
同领域还值得读
DeepSeek-R1：通过强化学习激励 LLM 的推理能力
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via RL
研究如何用强化学习激励大语言模型的推理能力，提出 DeepSeek-R1，并探讨 RL 训练对模型推理表现的影响。
AI 与机器学习2025 · 1,351 分 · 1,056 评 · 引用 30进阶 · 约 80 分钟编辑精选1-bit LLM 时代：面向低成本计算的三值参数
The Era of 1-bit LLMs: ternary parameters for cost-effective computing
提出用三值参数 {-1, 0, 1} 替代 LLM 中的浮点权重，即所谓“1-bit LLM”。
AI 与机器学习2024 · 1,040 分 · 447 评 · 引用 19进阶 · 约 45 分钟编辑精选DeepSeek-V3.2：推进开放大语言模型的前沿
DeepSeek-v3.2: Pushing the frontier of open large language models
这是 DeepSeek-V3.2 的技术报告，延续了 DeepSeek 开源权重模型的路线，目标是让开放模型继续逼近甚至追平前沿闭源模型。
AI 与机器学习2025 · 982 分 · 465 评进阶 · 约 90 分钟编辑精选通过自我对弈与通用强化学习掌握国际象棋和将棋（AlphaZero）
Mastering Chess and Shogi by Self-Play with General Reinforcement Learning
DeepMind 的 AlphaZero 论文：用通用强化学习算法（自我博弈 + MCTS + 神经网络），从零开始仅数小时训练便在国际象棋和将棋上击败了世界顶级引擎 Stock…
AI 与机器学习2017 · 539 分 · 270 评 · 引用 13进阶 · 约 90 分钟编辑精选用强化学习发现更快的矩阵乘法算法
Discovering faster matrix multiplication algorithms with reinforcement learning
论文提出 AlphaTensor，用强化学习搜索矩阵乘法算法。
AI 与机器学习2022 · 518 分 · 111 评专业 · 约 90 分钟编辑精选