AI 与机器学习2016images.nvidia.com编辑精选
面向自动驾驶汽车的端到端学习
End to End Learning for Self-Driving Cars
进阶 · 约 30 分钟读完前置知识:卷积神经网络基础、监督学习与回归、自动驾驶感知基础
导读
这是 NVIDIA 2016 年的经典论文:用卷积神经网络把车载摄像头的原始图像直接映射为转向指令,跳过人工设计特征和模块化感知-规划流水线,实现端到端自动驾驶。作者用约 72 小时的驾驶数据训练模型,在真实道路上做了测试验证。
HN 关注点:HN 读者争论的焦点是:把性命交给一个 monolithic 黑箱模型是否可接受——端到端方法在工程可测试性、可调试性和鲁棒性上存在根本缺陷。
后来怎么样
这篇论文成为端到端自动驾驶的标志性工作,推动了后续大量基于深度学习和模仿学习的驾驶研究,但其纯黑箱端到端方案并未成为量产自动驾驶的主流架构。
HN 评论精选
这几条评论里:质疑 4
质疑端到端网络对光照等环境扰动缺乏鲁棒性,且难以界定测试充分性。
这种端到端训练神经网络的一个问题是系统容易受不可预测的故障影响:让人把神经网络骗到认为熊猫是秃鹫的同一原理,也可能仅仅因为光照/阴影条件、阳光眩光或谁知道什么因素就随机发生。你当然可以不断用更多场景训练网络,但怎么知道何时停止?在这方面,多好才算够好?
euyyn查看英文原文
One problem with training a neural network end-to-end this way is that the system is susceptible to unpredictable glitches: The same principle that lets people trick a NN into [thinking a panda is a vulture](https://codewords.recurse.com/issues/five/why-do-neural-networks-think-a-panda-is-a-vulture) can happen randomly just by differing lighting/shadow conditions, sun glare, or who knows. One can always train the network with more and more scenarios, but how do you know when to stop? How good is good enough in this regard?
质疑黑箱端到端模型无法测试和调试,不满足汽车安全工程的量产要求。
仅用 72 小时的训练数据,从科学角度看这是极其惊艳的结果。但在汽车行业的质量控制/最佳实践层面,把人的生命托付给一个单体黑箱系统是完全不可接受的。生产系统中采用模块化构建模块的原因不一定是性能更好,而是必须具备通过降低自由度来测试、排障、调试、修复和替换的能力——这是工程的基本常识,即使在敏感度低得多的行业也是如此。所以 N2N 对快速原型会非常有用,也许还能为其他方法设定性能基准,但我怀疑它永远不会用于量产。
ilyaeck查看英文原文
With just 72 hours of training data, this is an extremely impressive result, scientifically speaking. However, in terms of quality control/best practices in automotive, it's simply unacceptable to trust human lives with a monolithic black-box system. The reason to have modular building blocks in a production system is not necessarily better performance, but the must-have ability to test, troubleshoot, debug, fix and replace things by reducing the degrees of freedom - it's the ABC of engineering even in much less sensitive industries. So while N2N is going to be very useful for rapid prototyping, and perhaps setting the performance bar for other method, I doubt it will ever be used in production.
质疑端到端模型缺乏基于人类概念的规划与推理能力,无法处理需要预判的决策。
让神经网络从视觉直接映射到转向的另一个明显问题是:你没法让它基于尚未看到、但将会看到的情况做决策。比如,因为要到目的地得右转,所以现在要变道。作者指出,E2E 学习因为不受人为概念约束,能做出更好的小型系统。如果这是你唯一的目标,那没问题。但我认为,自动驾驶汽车必须能够以这些人类概念进行推理,这是至关重要的。
euyyn查看英文原文
Another obvious problem with having the neural network map from vision to steering is that you can't make it take decisions based on what it hasn't seen yet, but will see. E.g. changing lanes because to reach your destination you'll have to make a right turn. The authors note that E2E learning makes for a better smaller system, on account of being free from human-imposed concepts. That's fine if that's your only goal. But I think it's essential for autonomous cars to be able to reason in terms of those human concepts.
质疑目标应是超越人类驾驶水平,而非单纯模仿人类行为。
这真的很有意思,但我希望自动驾驶汽车在驾驶上比人类更好,而不是去模仿人类。
birdmanjeremy查看英文原文
This is really interesting, but I'd want autonomous cars to be better than humans at driving, not to emulate them.
相关资源
从这篇论文所有 HN 讨论帖的全部评论里整理出来的链接。
历次讨论
- 2016Hacker News 讨论帖157 分 · 101 评
同领域还值得读
DeepSeek-R1:通过强化学习激励 LLM 的推理能力
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via RL
研究如何用强化学习激励大语言模型的推理能力,提出 DeepSeek-R1,并探讨 RL 训练对模型推理表现的影响。
AI 与机器学习2025 · 1,351 分 · 1,056 评 · 引用 30进阶 · 约 80 分钟编辑精选1-bit LLM 时代:面向低成本计算的三值参数
The Era of 1-bit LLMs: ternary parameters for cost-effective computing
提出用三值参数 {-1, 0, 1} 替代 LLM 中的浮点权重,即所谓“1-bit LLM”。
AI 与机器学习2024 · 1,040 分 · 447 评 · 引用 19进阶 · 约 45 分钟编辑精选DeepSeek-V3.2:推进开放大语言模型的前沿
DeepSeek-v3.2: Pushing the frontier of open large language models
这是 DeepSeek-V3.2 的技术报告,延续了 DeepSeek 开源权重模型的路线,目标是让开放模型继续逼近甚至追平前沿闭源模型。
AI 与机器学习2025 · 982 分 · 465 评进阶 · 约 90 分钟编辑精选通过自我对弈与通用强化学习掌握国际象棋和将棋(AlphaZero)
Mastering Chess and Shogi by Self-Play with General Reinforcement Learning
DeepMind 的 AlphaZero 论文:用通用强化学习算法(自我博弈 + MCTS + 神经网络),从零开始仅数小时训练便在国际象棋和将棋上击败了世界顶级引擎 Stock…
AI 与机器学习2017 · 539 分 · 270 评 · 引用 13进阶 · 约 90 分钟编辑精选用强化学习发现更快的矩阵乘法算法
Discovering faster matrix multiplication algorithms with reinforcement learning
论文提出 AlphaTensor,用强化学习搜索矩阵乘法算法。
AI 与机器学习2022 · 518 分 · 111 评专业 · 约 90 分钟编辑精选