AI 与机器学习2025arxiv.org编辑精选
DeepSeek-R1:通过强化学习激励 LLM 的推理能力
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via RL
进阶 · 约 80 分钟读完前置知识:大语言模型基础、强化学习基础、思维链/推理模型
导读
这篇论文研究如何用强化学习激励大语言模型的推理能力,提出 DeepSeek-R1,并探讨 RL 训练对模型推理表现的影响。论文与模型发布后,社区重点讨论其性能、低成本训练/蒸馏,以及对闭源模型和 GPU 投入叙事的冲击。
HN 关注点:开源模型是否已比肩或超越闭源旗舰,以及“不必堆海量 GPU”对 AI 产业估值和竞争格局的影响。
HN 评论精选
这几条评论里:支持 1 质疑 1 补充 2
支持认为 R1 性能超越闭源旗舰,并动摇闭源公司的保密护城河。
还没意识到的人听好了:DeepSeek-R1 比 Claude 3.5 更好,比 OpenAI o1-pro 更好,也比 Gemini 更好。它就是更聪明——少犯蠢、更谨慎、更机敏、更有意识、更有元认知等。我们知道 Anthropic、OpenAI 和 Meta 正在恐慌。他们应该恐慌。门槛现在高多了。把配方保密的说辞显得更荒谬。那些公司一直吹嘘的顶级秘方,现在有了更强的开源模型,就一文不值。好好想想这意味着什么。这是真正的竞争。如果电动车领域做不到,至少在 AI 模型上有了!
resters查看英文原文
For those who haven't realized it yet, Deepseek-R1 is better than claude 3.5 and better than OpenAI o1-pro, better than Gemini. It is simply smarter -- a lot less stupid, more careful, more astute, more aware, more meta-aware, etc. We know that Anthropic and OpenAI and Meta are panicking. They should be. The bar is a lot higher now. The justification for keeping the sauce secret just seems a lot more absurd. None of the top secret sauce that those companies have been hyping up is worth anything now that there is a superior open source model. Let that sink in. This is real competition. If we can't have it in EVs at least we can have it in AI models!
质疑担心少 GPU 也能达到 SOTA 会冲击美国 AI 估值和算力叙事。
美国经济在这方面相当脆弱。如果事实证明你其实不需要海量 GPU 也能构建 SOTA 模型,就会摧毁很多被感知的价值。我好奇这是中国有意为之,还是我们自己陷入了“更多总是更好”的谬误。
siliconc0w查看英文原文
The US Economy is pretty vulnerable here. If it turns out that you, in fact, don't need a gazillion GPUs to build SOTA models it destroys a lot of perceived value. I wonder if this was a deliberate move by PRC or really our own fault in falling for the fallacy that more is always better.
补充把巨额 GPU 投资解释为投资人押注 ASI 与长寿的动机。
Larry Ellison 80 岁,Masayoshi Son 67 岁。两人都说抗衰老和永生是他们投资 ASI 的主要目标之一。对他们来说,如果花自己的财富并号召行业投入 5000 亿美元买 GPU 能让 ASI 提前 5 年到来,再让 ASI 给他们永生,那就值得。
dtquad查看英文原文
Larry Ellison is 80. Masayoshi Son is 67. Both have said that anti-aging and eternal life is one of their main goals with investing toward ASI. For them it's worth it to use their own wealth and rally the industry to invest $500 billion in GPUs if that means they will get to ASI 5 years faster and ask the ASI to give them eternal life.
补充汇总复现、模型组合与低成本蒸馏资源,显示社区正快速跟进。
我们在 Latent Space 一直在广泛跟踪 DeepSeek 相关帖子。相关阅读:我认为 DeepSeek-V3 论文是必读前置材料;R1+Sonnet 优于 R1、O1、R1+R1、O1+Sonnet 等组合;独立复现包括 SimplerRL、TinyZero 复现 DeepSeek-R1-Zero 等;R1 蒸馏版本会每隔几天出现,因为用这些思维链改进任何基座模型简单得离谱(不到 400 美元、48 小时内),例如 Sky-T1 配方。
swyx查看英文原文
we've been tracking the deepseek threads extensively in LS. related reads: - i consider the deepseek v3 paper required preread https://github.com/deepseek-ai/DeepSeek-V3 - R1 + Sonnet > R1 or O1 or R1+R1 or O1+Sonnet or any other combo https://aider.chat/2025/01/24/r1-sonnet.html - independent repros: 1) https://hkust-nlp.notion.site/simplerl-reason 2) https://buttondown.com/ainews/archive/ainews-tinyzero-reproduce-deepseek-r1-zero-for-30/ 3) https://x.com/ClementDelangue/status/1883154611348910181 - R1 distillations are going to hit us every few days - because it's ridiculously easy (<$400, <48hrs) to improve any base model with these chains of thought eg with Sky-T1 recipe (writeup https://buttondown.com/ainews/archive/ainews-bespoke-stratos-sky-t1-the-vicunaalpaca/ , 23min interview w team https://www.youtube.com/watch?v=jrf76uNs77k) i probably have more resources but dont want to spam - seek out the latent space discord if you want the full stream i pulled these notes from
相关资源
从这篇论文所有 HN 讨论帖的全部评论里整理出来的链接。
历次讨论
- 2025Hacker News 讨论帖1,351 分 · 1,056 评
同领域还值得读
1-bit LLM 时代:面向低成本计算的三值参数
The Era of 1-bit LLMs: ternary parameters for cost-effective computing
提出用三值参数 {-1, 0, 1} 替代 LLM 中的浮点权重,即所谓“1-bit LLM”。
AI 与机器学习2024 · 1,040 分 · 447 评 · 引用 19进阶 · 约 45 分钟编辑精选DeepSeek-V3.2:推进开放大语言模型的前沿
DeepSeek-v3.2: Pushing the frontier of open large language models
这是 DeepSeek-V3.2 的技术报告,延续了 DeepSeek 开源权重模型的路线,目标是让开放模型继续逼近甚至追平前沿闭源模型。
AI 与机器学习2025 · 982 分 · 465 评进阶 · 约 90 分钟编辑精选通过自我对弈与通用强化学习掌握国际象棋和将棋(AlphaZero)
Mastering Chess and Shogi by Self-Play with General Reinforcement Learning
DeepMind 的 AlphaZero 论文:用通用强化学习算法(自我博弈 + MCTS + 神经网络),从零开始仅数小时训练便在国际象棋和将棋上击败了世界顶级引擎 Stock…
AI 与机器学习2017 · 539 分 · 270 评 · 引用 13进阶 · 约 90 分钟编辑精选用强化学习发现更快的矩阵乘法算法
Discovering faster matrix multiplication algorithms with reinforcement learning
论文提出 AlphaTensor,用强化学习搜索矩阵乘法算法。
AI 与机器学习2022 · 518 分 · 111 评专业 · 约 90 分钟编辑精选对抗策略击败超人类围棋 AI
Adversarial policies beat superhuman Go AIs (2023)
论文研究顶级围棋 AI KataGo 的对抗性漏洞:训练一个对抗策略与冻结的 KataGo 对弈,不靠更强棋力,而是诱导 KataGo 在有利于对手时提前结束或认输。
AI 与机器学习2022 · 501 分 · 185 评 · 引用 5进阶 · 约 60 分钟编辑精选