AI 与机器学习2022arxiv.org编辑精选
Gato：一个通用智能体
Gato – A Generalist Agent
进阶 · 约 50 分钟读完前置知识：Transformer 基础、强化学习基础、多模态序列建模
导读
这篇论文提出 Gato：一个用单一 Transformer 模型、同一套权重处理多模态多任务的通用智能体。它把文本、图像、机器人动作等统一转成 token 序列，以序列预测方式训练，并在对话、图像描述、机械臂操作、Atari 游戏等多种任务上展示能力。论文更像是在验证“多模态 token 预测”这条路线，而非宣称已实现通用人工智能。
HN 关注点：是否意味着 AGI 临近、多模态 token 预测能否通向通用智能体，以及它作为概念验证的规模与训练方式局限。
后来怎么样
Gato 本身未被广泛部署，但它作为“用单一 Transformer 与统一 token 序列处理文本、图像与机器人动作”的早期概念验证，被普遍视为后续视觉-语言-动作模型（如 RT-2、Gemini Robotics 等）路线的直接先声。
HN 评论精选
这几条评论里：支持 1 补充 3
支持Gato 是概念验证，重点是多模态 token 预测路线可行，并非宣称解决通用智能。
这又引出了“这是不是通用 AI”的问题，而这类讨论常常质量不高甚至接近骂战。我的看法是：这篇论文的重点不是“我们解决了通用智能”，而是“看，多模态 token 预测是一条合理的迭代路线”。对比 GPT-3 等模型，Gato 的规模说明它更像概念验证（PoC），他们并没有费力去扩展规模，因为我们已经看到这类机制扩展后会走向哪里。我更想知道 DeepMind 等内部在尝试什么架构。Token 预测是一条有前景的路径，但它更像是智能体可以操作的一种语言，而不是智能体本身那种自足结构——也就是实现 Gato 这类算法的符号系统。如果那个符号系统来自某个生成函数，那个生成函数也不会以 token 预测为业。也许在多模态模型深处会涌现出智能结构，但那会是非常奇怪的副产品。
hans1729查看英文原文
This, again, sparks the "is this general ai?" question, which often results in low quality, borderline-flaming content... My take: the point of this paper isn't "here, we solved general intelligence". It's "look, multi modal token prediction is a sound iteration". Look at the scale of the model in comparison to, say, gpt-3: this is a PoC, they didn't bother scaling it, because we've already seen where scaling these mechanisms leads. What I would love to know is what kind of architectures deepmind et al are playing with in-house. Token prediction is a promising avenue, but it's more of a language that an intelligent agent may operate in, opposed to the self-sufficient structure of the intelligent agent itself -- the symbolic system that implements algos like gato. If that symbolic system will be the result of a generator-function, that generator function won't be token prediction by trade. I mean, maybe somewhere in the deep depths of a multi modal model, intelligent structure may emerge, but that would be a very weird byproduct.
补充论文显著影响了社区对 AGI 时间线的预测。
这篇论文让 Metaculus 上关于“何时实现 AGI”的预测发生了相当大的变化（附两个问题链接）。
ruuda查看英文原文
This paper caused quite a big shift in the Metaculus predictions on when "AGI" will be achieved, https://www.metaculus.com/questions/3479/date-weakly-general-ai-system-is-devised/ and https://www.metaculus.com/questions/5121/date-of-general-ai/.
补充模型是纯监督训练；期待同规模 RL 研究观察迁移效果，但成本更高。
需要注意，这个模型完全是以监督方式训练的。如果有同等规模的、基于强化学习的论文会很有意思。强化学习环境（尤其是探索部分）有更多机会观察正/负迁移的效果；当然，那种方法会昂贵得多。
tootyskooty查看英文原文
One important thing to note here is that this model was trained purely in a supervised fashion. It would be interesting to see a paper at a similar scale that's based on reinforcement learning. The reinforcement learning context (specifically the exploring part) gives a lot more opportunities to see the effects of positive/negative transfer. That approach would of course be much more expensive, though.
补充指出此前已有相关讨论帖。
五天前已经有过大量讨论：https://news.ycombinator.com/item?id=31355657
version_five查看英文原文
Discussed a lot five days ago: https://news.ycombinator.com/item?id=31355657
相关资源
从这篇论文所有 HN 讨论帖的全部评论里整理出来的链接。
历次讨论
- 2022Hacker News 讨论帖140 分 · 58 评
同领域还值得读
DeepSeek-R1：通过强化学习激励 LLM 的推理能力
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via RL
研究如何用强化学习激励大语言模型的推理能力，提出 DeepSeek-R1，并探讨 RL 训练对模型推理表现的影响。
AI 与机器学习2025 · 1,351 分 · 1,056 评 · 引用 30进阶 · 约 80 分钟编辑精选1-bit LLM 时代：面向低成本计算的三值参数
The Era of 1-bit LLMs: ternary parameters for cost-effective computing
提出用三值参数 {-1, 0, 1} 替代 LLM 中的浮点权重，即所谓“1-bit LLM”。
AI 与机器学习2024 · 1,040 分 · 447 评 · 引用 19进阶 · 约 45 分钟编辑精选DeepSeek-V3.2：推进开放大语言模型的前沿
DeepSeek-v3.2: Pushing the frontier of open large language models
这是 DeepSeek-V3.2 的技术报告，延续了 DeepSeek 开源权重模型的路线，目标是让开放模型继续逼近甚至追平前沿闭源模型。
AI 与机器学习2025 · 982 分 · 465 评进阶 · 约 90 分钟编辑精选通过自我对弈与通用强化学习掌握国际象棋和将棋（AlphaZero）
Mastering Chess and Shogi by Self-Play with General Reinforcement Learning
DeepMind 的 AlphaZero 论文：用通用强化学习算法（自我博弈 + MCTS + 神经网络），从零开始仅数小时训练便在国际象棋和将棋上击败了世界顶级引擎 Stock…
AI 与机器学习2017 · 539 分 · 270 评 · 引用 13进阶 · 约 90 分钟编辑精选用强化学习发现更快的矩阵乘法算法
Discovering faster matrix multiplication algorithms with reinforcement learning
论文提出 AlphaTensor，用强化学习搜索矩阵乘法算法。
AI 与机器学习2022 · 518 分 · 111 评专业 · 约 90 分钟编辑精选