AI 与机器学习2017arxiv.org
用深度强化学习在《Super Smash Bros.》中击败世界顶尖选手
Beating the World’s Best at Super Smash Bros. with Deep Reinforcement Learning
进阶 · 约 35 分钟读完前置知识:强化学习基础、深度学习、游戏 AI 特征工程
导读
论文研究用深度强化学习训练 AI 在《任天堂明星大乱斗 Melee》中与人类对战,并声称其表现能击败世界顶尖选手。需要注意的是,智能体并非从像素画面学习,而是直接从游戏内存(RAM)中读取特征,且受益于超人级的反应时间——在加入接近人类的延迟后,性能明显下降。
HN 关注点:HN 读者既惊叹于 AI 在复杂格斗游戏中击败人类高手,也争论它从 RAM 读特征、拥有超人反应时间是否算"作弊",以及这一成果到底说明了什么。
HN 评论精选
这几条评论里:支持 1 质疑 2 补充 1
质疑指出该成果依赖 RAM 特征和超人反应时间,削弱了"从零学习"的说服力。
注意:它并非从像素学习,而是直接从 RAM 中读取特征;并且反应时间是超人级的,一旦加入接近人类的延迟,表现就会严重退化。Reddit 上有不错的讨论(附 r/MachineLearning 和 r/smashbros 两个链接)。
gwern查看英文原文
Note: it doesn't learn from pixels but features directly from RAM; and superhuman reaction time, with performance badly degrading when human-like delays added. Good discussions on Reddit: https://www.reddit.com/r/MachineLearning/comments/5vh4ae/r_a_new_foe_has_appeared_170206230_beating_the/ https://www.reddit.com/r/smashbros/comments/5vin8x/beating_the_worlds_best_at_super_smash_bros_melee/
质疑用职业选手 Mew2King 的梗调侃"AI 打败人类"的说法。
我们都知道 Mew2King 才是第一个能打败《大乱斗》职业选手的"强化学习 AI"。(附恶搞视频链接)
swanson查看英文原文
We all know that Mew2King is first reinforcement learning AI capable of beating Super Smash Bros pro players. https://www.youtube.com/watch?v=z-1YfhUFtbY&feature=youtu.be&t=285
支持承认 RAM 特征是取巧,但强调通用算法自学到这一水平本身进步惊人。
虽然这个 AI 可能算作弊——它用的是从 RAM 提取的显著特征而不是像素值——但这仍是了不起的成就。就在几年前,我们还没有通用算法能拿这些特征自我学习,并这么快达到接近这种水平的策略。
jwtadvice查看英文原文
While the AI might be cheating by taking salient features from RAM rather than from pixel values, this is still an incredible feat. Just a few years ago we did not have generic algorithms that could take even salient features and self-learn policies to near this level this quickly.
补充提供 AI 实际对战的视频,便于直观判断水平。
这里有 AI 对战的视频,它操作的是黑色猎鹰队长(Captain Falcon):https://www.youtube.com/watch?v=dXJUlqBsZtE
brilee查看英文原文
Video of the AI here, playing as the black captain falcon: https://www.youtube.com/watch?v=dXJUlqBsZtE
相关资源
从这篇论文所有 HN 讨论帖的全部评论里整理出来的链接。
历次讨论
- 2017Hacker News 讨论帖202 分 · 55 评
同领域还值得读
DeepSeek-R1:通过强化学习激励 LLM 的推理能力
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via RL
研究如何用强化学习激励大语言模型的推理能力,提出 DeepSeek-R1,并探讨 RL 训练对模型推理表现的影响。
AI 与机器学习2025 · 1,351 分 · 1,056 评 · 引用 30进阶 · 约 80 分钟编辑精选1-bit LLM 时代:面向低成本计算的三值参数
The Era of 1-bit LLMs: ternary parameters for cost-effective computing
提出用三值参数 {-1, 0, 1} 替代 LLM 中的浮点权重,即所谓“1-bit LLM”。
AI 与机器学习2024 · 1,040 分 · 447 评 · 引用 19进阶 · 约 45 分钟编辑精选DeepSeek-V3.2:推进开放大语言模型的前沿
DeepSeek-v3.2: Pushing the frontier of open large language models
这是 DeepSeek-V3.2 的技术报告,延续了 DeepSeek 开源权重模型的路线,目标是让开放模型继续逼近甚至追平前沿闭源模型。
AI 与机器学习2025 · 982 分 · 465 评进阶 · 约 90 分钟编辑精选通过自我对弈与通用强化学习掌握国际象棋和将棋(AlphaZero)
Mastering Chess and Shogi by Self-Play with General Reinforcement Learning
DeepMind 的 AlphaZero 论文:用通用强化学习算法(自我博弈 + MCTS + 神经网络),从零开始仅数小时训练便在国际象棋和将棋上击败了世界顶级引擎 Stock…
AI 与机器学习2017 · 539 分 · 270 评 · 引用 13进阶 · 约 90 分钟编辑精选用强化学习发现更快的矩阵乘法算法
Discovering faster matrix multiplication algorithms with reinforcement learning
论文提出 AlphaTensor,用强化学习搜索矩阵乘法算法。
AI 与机器学习2022 · 518 分 · 111 评专业 · 约 90 分钟编辑精选