AI 与机器学习2025arxiv.org编辑精选
DeepSeek-V3 技术报告
DeepSeek-V3 Technical Report
专业 · 约 120 分钟读完前置知识：深度学习基础、Transformer 架构、MoE 与分布式训练
导读
DeepSeek-V3 技术报告介绍了这款开源大模型的架构与训练细节：采用 MoE 架构，最终训练仅用了约 278.8 万 H800 GPU 小时，成本远低于同类模型，引发业界对训练效率的广泛关注。
HN 关注点：其极低的训练成本和开源程度，讨论焦点是训练算力、能耗与开源生态的意义。
HN 评论精选
这几条评论里：支持 1 质疑 1 补充 1 亲历 1
补充用数据估算出 DeepSeek-V3 训练的能耗和碳排放其实相当低
根据 278.8 万 GPU 小时可以推算能耗和碳排放：按 H800 350W TDP、乘以非 GPU 硬件开销 1.2 倍和 PUE 1.3，总耗电约 152 万度；按中国电网 0.582kg CO2/度计算，训练 DeepSeek-V3 最终一轮约排放 886 吨 CO2 当量，相当于约 193 辆美国乘用车一年的排放量，耗电量约等于 141 个美国家庭一年的用电量。
Centigonal查看英文原文
The GPU-hours stat here allows us to back out some interesting figures around electricity usage and carbon emissions if we make a few assumptions. 2,788,000 GPU-hours * 350W TDP of H800 = 975,800,000 GPU Watt-hours 975,800,000 GPU Wh * (1.2 to account for non-GPU hardware) * (1.3 PUE [1]) = 1,522,248,000 Total Wh, or 1,522,248 kWh to train DeepSeek-V3 (1,522,248 kWh) * (0.582kg CO2eq/kWh in China [2]) = 885,948 kg CO2 equivalents to train DeepSeek-V3 A typical US passenger vehicle emits about 4.6 metric tons of CO2 per year. [3] 885,948 kg CO2 per DeepSeek / 4,600 kg CO2 per car = 192.6 cars per DeepSeek So, the final training run for DeepSeek-V3 emitted as much greenhouse gasses as would be emitted from running about 193 more cars on the road for a year. I also did some more math and found that this training run used about as much electricity as 141 US households would use over the course of a year. [4] [1] https://enviliance.com/regions/east-asia/cn/report_10060 [2] https://ourworldindata.org/grapher/carbon-intensity-electricity [3] https://www.epa.gov/greenvehicles/greenhouse-gas-emissions-typical-passenger-vehicle [4] divided total kWh by the value here: https://www.eia.gov/tools/faqs/faq.php?id=97&t=3
质疑调侃 280 万 GPU 小时被称为'仅仅'，反映大模型训练规模之夸张
能不加引号地把 'only'（仅仅）用在 280 万 GPU 小时的训练时间上，这本身就够疯狂的。
skummetmaelk查看英文原文
The fact that you can unironically put the "only" modifier on a training time of 2.8 million GPU hours is nuts.
支持赞赏 DeepSeek 对开源生态的贡献
很高兴看到模型和训练系统重新回归开源。
gdiamos查看英文原文
Nice to see a return to open source in models and training systems.
亲历提供了本地运行 DeepSeek-V3 的量化版本和教程
关于 DeepSeek-V3 0324 版本，我制作了一些 2.7bit 动态量化版本（约 230GB），供想通过 llama.cpp 在本地运行的用户使用，教程见链接。
danielhanchen查看英文原文
Re DeepSeek-V3 0324 - I made some 2.7bit dynamic quants (230GB in size) for those interested in running them locally via llama.cpp! Tutorial on getting and running them: https://docs.unsloth.ai/basics/tutorial-how-to-run-deepseek-v3-0324-locally
历次讨论
- 2025Hacker News 讨论帖132 分 · 34 评
同领域还值得读
DeepSeek-R1：通过强化学习激励 LLM 的推理能力
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via RL
研究如何用强化学习激励大语言模型的推理能力，提出 DeepSeek-R1，并探讨 RL 训练对模型推理表现的影响。
AI 与机器学习2025 · 1,351 分 · 1,056 评 · 引用 30进阶 · 约 80 分钟编辑精选1-bit LLM 时代：面向低成本计算的三值参数
The Era of 1-bit LLMs: ternary parameters for cost-effective computing
提出用三值参数 {-1, 0, 1} 替代 LLM 中的浮点权重，即所谓“1-bit LLM”。
AI 与机器学习2024 · 1,040 分 · 447 评 · 引用 19进阶 · 约 45 分钟编辑精选DeepSeek-V3.2：推进开放大语言模型的前沿
DeepSeek-v3.2: Pushing the frontier of open large language models
这是 DeepSeek-V3.2 的技术报告，延续了 DeepSeek 开源权重模型的路线，目标是让开放模型继续逼近甚至追平前沿闭源模型。
AI 与机器学习2025 · 982 分 · 465 评进阶 · 约 90 分钟编辑精选通过自我对弈与通用强化学习掌握国际象棋和将棋（AlphaZero）
Mastering Chess and Shogi by Self-Play with General Reinforcement Learning
DeepMind 的 AlphaZero 论文：用通用强化学习算法（自我博弈 + MCTS + 神经网络），从零开始仅数小时训练便在国际象棋和将棋上击败了世界顶级引擎 Stock…
AI 与机器学习2017 · 539 分 · 270 评 · 引用 13进阶 · 约 90 分钟编辑精选用强化学习发现更快的矩阵乘法算法
Discovering faster matrix multiplication algorithms with reinforcement learning
论文提出 AlphaTensor，用强化学习搜索矩阵乘法算法。
AI 与机器学习2022 · 518 分 · 111 评专业 · 约 90 分钟编辑精选