AI 与机器学习2024arxiv.org
通过细粒度奖励训练 LLM 生成带引用的文本
Training LLMs to generate text with citations via fine-grained rewards
进阶 · 约 45 分钟读完前置知识：RLHF 基础、RAG 概念、大语言模型微调
导读
这篇论文研究如何训练大语言模型在生成文本时附带引用（citations），并提出用「细粒度奖励」（fine-grained rewards）来训练模型——即对引用质量给出更精细的奖励信号，而非粗粒度的整体评分。目标应是提升模型所生成内容中引用的可靠性与可验证性。
HN 关注点：HN 读者把它视为「让模型输出可溯源」的务实路线，讨论焦点在于它与「超长上下文窗口」方案的优劣，以及引用是否真能被客观验证。
HN 评论精选
这几条评论里：支持 1 质疑 1 补充 1 亲历 1
补充推荐不依赖 LLM 的 RAG 替代方案（作者自荐 txtai）。
很有意思的方法。对不依赖 LLM 的替代方案感兴趣的人，可以看看这篇文章：https://neuml.hashnode.dev/build-rag-pipelines-with-txtai 声明：我是 txtai 的主要作者。
dmezzetti查看英文原文
Very interesting approach. For those interested in an alternate method that doesn't depend on a LLM, check out this article: https://neuml.hashnode.dev/build-rag-pipelines-with-txtai Disclaimer: I'm the primary author of txtai.
支持认为细粒度奖励训练比一味扩大上下文窗口更有前景。
这比「往上下文窗口里塞 1 亿 token」的想法令人兴奋得多。
skeptrune查看英文原文
This is soooo much more exciting than the "put 100M tokens in the context window" idea
质疑质疑缺乏客观手段验证生成内容与引用的正确性。
据我理解，目前没有办法客观或程序化地判断这些东西是否正确，或是否掩盖了某个严重错误。这些技巧也不能让我相信我们正朝那个方向前进。
th0ma5查看英文原文
It is my understanding there is no way to objectively or programmatically tell if any of this stuff is correct or doesn't obfuscate some dire error. These tricks don't give me confidence that we're headed in that direction either.
亲历分享在 GPT-4 系统提示中强制引用格式的实操经验，期待方法惠及小模型。
如果这能开始在更小的模型上奏效，那就太好了。我们在 GPT-4 的系统提示里附加以下内容取得了不错的效果：「尽可能引用来源。使用以下自定义 HTML 格式 <citation>{document_id}†{node_id}</citation>。非常重要！」
serjester查看英文原文
This is fantastic if this starts working on smaller models. We've have solid results with appending the following to our GPT-4 system prompt. "When possible cite your sources. Use the following custom html format <citation>{document_id}†{node_id}</citation>. Very important!"
相关资源
从这篇论文所有 HN 讨论帖的全部评论里整理出来的链接。
- 评论区提到的论文
历次讨论
- 2024Hacker News 讨论帖170 分 · 34 评
同领域还值得读
DeepSeek-R1：通过强化学习激励 LLM 的推理能力
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via RL
研究如何用强化学习激励大语言模型的推理能力，提出 DeepSeek-R1，并探讨 RL 训练对模型推理表现的影响。
AI 与机器学习2025 · 1,351 分 · 1,056 评 · 引用 30进阶 · 约 80 分钟编辑精选1-bit LLM 时代：面向低成本计算的三值参数
The Era of 1-bit LLMs: ternary parameters for cost-effective computing
提出用三值参数 {-1, 0, 1} 替代 LLM 中的浮点权重，即所谓“1-bit LLM”。
AI 与机器学习2024 · 1,040 分 · 447 评 · 引用 19进阶 · 约 45 分钟编辑精选DeepSeek-V3.2：推进开放大语言模型的前沿
DeepSeek-v3.2: Pushing the frontier of open large language models
这是 DeepSeek-V3.2 的技术报告，延续了 DeepSeek 开源权重模型的路线，目标是让开放模型继续逼近甚至追平前沿闭源模型。
AI 与机器学习2025 · 982 分 · 465 评进阶 · 约 90 分钟编辑精选通过自我对弈与通用强化学习掌握国际象棋和将棋（AlphaZero）
Mastering Chess and Shogi by Self-Play with General Reinforcement Learning
DeepMind 的 AlphaZero 论文：用通用强化学习算法（自我博弈 + MCTS + 神经网络），从零开始仅数小时训练便在国际象棋和将棋上击败了世界顶级引擎 Stock…
AI 与机器学习2017 · 539 分 · 270 评 · 引用 13进阶 · 约 90 分钟编辑精选用强化学习发现更快的矩阵乘法算法
Discovering faster matrix multiplication algorithms with reinforcement learning
论文提出 AlphaTensor，用强化学习搜索矩阵乘法算法。
AI 与机器学习2022 · 518 分 · 111 评专业 · 约 90 分钟编辑精选