AI 与机器学习2023arxiv.org编辑精选
Toolformer：语言模型可以自学使用工具
Toolformer: Language Models Can Teach Themselves to Use Tools
进阶 · 约 60 分钟读完前置知识：Transformer 基础、大语言模型微调、API 基本概念
导读
Meta AI 的 Toolformer 论文提出让大语言模型自学使用外部工具（计算器、搜索引擎、日历、翻译 API 等）。核心做法是：只需给每个 API 少量示例，模型就能自己生成候选 API 调用并筛选出真正有用的调用作为训练数据，从而在推理时自主决定何时、如何调用工具，且无需人工标注。
HN 关注点：是因为这展示了语言模型可以自我生成训练数据来学会调用 API，被视为通往通用自然语言软件助手的关键一步。
后来怎么样
Toolformer 开创了让语言模型自学调用外部工具的范式，直接影响了后续工具增强型 LLM 研究（如 ToolLLM、Gorilla 等），'模型学会使用工具'成为业界主流方向，OpenAI 的 function calling 等产品能力也沿此思路落地。
HN 评论精选
这几条评论里：支持 2 补充 2
支持语言模型调用工具将成为一切软件的统一自然语言接口，取代 Siri 等失败尝试
这里有个小 GIF 演示：https://twitter.com/timo_schick/status/1624058382142345216。这条研究路线的可能性无穷无尽：当语言模型能调用 API 或操作 UI 时，它们可以成为任何软件、网站、应用的统一自然语言接口（另见 adept.ai 的 Act）。Siri、Alexa 和 Google Assistant 都是死胡同；学会使用工具的语言模型最终能兑现“可用的软件助手”的承诺，并最终成为接受自然语言指令执行现实任务的机器人的关键部分（参见 Google 的 PaLM-SayCan）。
modeless查看英文原文
Here is a little GIF demo: https://twitter.com/timo_schick/status/1624058382142345216 The possibilities of this line of research are endless. When language models can call APIs and/or use UIs, they can become the unified natural language interface to any software, any website, any app. See also https://www.adept.ai/act. Siri and Alexa and Google Assistant are dead ends. Language models trained to use tools will finally be able to start delivering on the promise of a software assistant that works. And eventually, they will be a key part of robots that accept natural language commands to perform everyday tasks in the real world, like this: https://sites.research.google/palm-saycan
支持亮点在于模型能从少量示例自我生成训练数据
这是那种事后看来显而易见的绝妙想法——API 调用对语言模型来说只是另一种待预测的文本。最令我印象深刻的是，模型仅凭每个 API 的少量演示就能从零生成自己的训练数据，这个技术非常值得学习。
leereeves查看英文原文
This is the kind of brilliant idea that seems obvious in hindsight. The API call becomes just another kind of text for the LM to predict. The most impressive part (to me) is that the LM was able to generate its own training data starting from "nothing more than a handful of demonstrations for each API". That sounds like a technique worth learning.
补充语言模型是连接各专用模型的“胶水”，类比人类协作
就像人类的技术进步一样：每个人只掌握专门化的知识（窄模型），没有沟通就无法访问这些专长，而语言是我们迄今最好的沟通方式。感觉语言模型将成为把所有窄模型粘合在一起的胶水，并能在其之上构建新的窄模型。
POiNTx查看英文原文
Just like how humans progressed technologically. Each individual human has information that is considered specialized (a narrow model). Without communication there is no way to access these specializations. And written and spoken language is just the best way to communicate we've come up with (so far). Feels like these language models will be the glue that hold all the narrow models together, and can build on top of to create new narrow models.
补充下一波产品化方向是把问题映射为文本中间格式
我一直在等这样的概念验证！在我看来，下一波 GPT-3 产品化将涉及把问题域和解决方案映射到基于文本的中间格式，从而让 GPT-3 的泛化能力能应用于这些问题。
eclipsetheworld查看英文原文
I was waiting for a proof of concept like this! IMHO the next-wave of GPT-3 productization will involve mapping problem and solution domains to a text-based intermediary format so that GPT-3's generalization abilities can be applied to these problems.
相关资源
从这篇论文所有 HN 讨论帖的全部评论里整理出来的链接。
历次讨论
- 2023Hacker News 讨论帖54 分 · 6 评
同领域还值得读
DeepSeek-R1：通过强化学习激励 LLM 的推理能力
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via RL
研究如何用强化学习激励大语言模型的推理能力，提出 DeepSeek-R1，并探讨 RL 训练对模型推理表现的影响。
AI 与机器学习2025 · 1,351 分 · 1,056 评 · 引用 30进阶 · 约 80 分钟编辑精选1-bit LLM 时代：面向低成本计算的三值参数
The Era of 1-bit LLMs: ternary parameters for cost-effective computing
提出用三值参数 {-1, 0, 1} 替代 LLM 中的浮点权重，即所谓“1-bit LLM”。
AI 与机器学习2024 · 1,040 分 · 447 评 · 引用 19进阶 · 约 45 分钟编辑精选DeepSeek-V3.2：推进开放大语言模型的前沿
DeepSeek-v3.2: Pushing the frontier of open large language models
这是 DeepSeek-V3.2 的技术报告，延续了 DeepSeek 开源权重模型的路线，目标是让开放模型继续逼近甚至追平前沿闭源模型。
AI 与机器学习2025 · 982 分 · 465 评进阶 · 约 90 分钟编辑精选通过自我对弈与通用强化学习掌握国际象棋和将棋（AlphaZero）
Mastering Chess and Shogi by Self-Play with General Reinforcement Learning
DeepMind 的 AlphaZero 论文：用通用强化学习算法（自我博弈 + MCTS + 神经网络），从零开始仅数小时训练便在国际象棋和将棋上击败了世界顶级引擎 Stock…
AI 与机器学习2017 · 539 分 · 270 评 · 引用 13进阶 · 约 90 分钟编辑精选用强化学习发现更快的矩阵乘法算法
Discovering faster matrix multiplication algorithms with reinforcement learning
论文提出 AlphaTensor，用强化学习搜索矩阵乘法算法。
AI 与机器学习2022 · 518 分 · 111 评专业 · 约 90 分钟编辑精选