AI 与机器学习2018arxiv.org编辑精选
为什么 CNN 对小幅图像变换的泛化如此差？
Why do CNNs generalize so poorly to small image transformations?
进阶 · 约 35 分钟读完前置知识：卷积神经网络基础、下采样与信号混叠、图像分类任务
导读
这篇论文研究卷积网络（CNN）为何对图像的微小变换（如平移一个像素、小幅旋转）如此敏感：人类看来几乎一样的图，网络分类结果却可能大幅改变，说明 CNN 并未真正获得平移不变性。作者把主因指向网络中的下采样/步长（striding）操作，它破坏了亚像素级的平移不变性，并给出改进方向。
HN 关注点：它戳中了「CNN 到底学到了什么」这一核心疑问：高准确率是否掩盖了模型依赖表面统计规律而非真正不变特征的弱点。
后来怎么样
这篇论文把 CNN 缺乏亚像素级平移不变性的原因追溯到步长下采样，成为后续关于平移不变性与等变性研究的常引文献，并直接推动了一批以抗锯齿下采样（如 BlurPool）为代表的架构改进工作。
HN 评论精选
这几条评论里：补充 4
补充补充另一篇论文：测试集有虚高但排名不变，测试集进步仍反映真实进步
这篇论文确实有意思，但在本贴变成一片对神经网络的讨伐之前，还有另一个视角：《Do CIFAR-10 Classifiers Generalize to CIFAR-10?》(arxiv 1806.00451)。他们用与构建 CIFAR-10 相同的流程造了一个新测试集，在上面测试一批当前的 SOTA 结果。确实存在泛化差距，但 SOTA 之间的相对排名基本保持不变。所以测试集验证确实高估了这些系统的真实表现，但测试集上的进步仍能指示真实场景中的进步。另外别忘了语境：没人会问「传统计算机视觉系统是否理解图像」，因为它们本来就只是在看图像统计量。
Eridrus查看英文原文
This paper is definitely quite interesting, but before this thread turns into a bunch of NN hate, here is another take: "Do CIFAR-10 Classifiers Generalize to CIFAR-10?" - https://arxiv.org/abs/1806.00451 They use the same procedure used to construct CIFAR-10 to construct a new test set and test a bunch of state of the art results on the new test set. They see a generalization gap, but the relative order of SoTA results remains (roughly) the same. So, yes, test set validation is an overestimate of real-world performance of these systems, but progress on test sets is indicative of progress in real-world settings. And to remember this in context, no-one is asking "do traditional computer vision systems understand images", because they were explicitly just looking at image statistics.
补充引文补充：CNN 会依赖傅里叶统计等表面特征，加深网络也补不上 28% 的差距
被引论文之一《Measuring the tendency of CNNs to Learn Surface Statistical Regularities》对理解这一现象也很有启发。其主要发现是：CNN 倾向于抓住训练数据集的傅里叶图像统计特征，在不同测试集上可造成高达 28% 的泛化差距；而且显著加深网络对缩小这一差距几乎没有帮助。这为「深层 CNN 更倾向于学习数据集中的表面统计规律，而非更高层的抽象概念」这一假设提供了量化证据。
denzil_correa查看英文原文
One of the cited papers "Measuring the tendency of CNNs to Learn Surface Statistical Regularities" is also a great insight into this phenomena [0]. > Our main finding is that CNNs exhibit a tendency to latch onto the Fourier image statistics of the training dataset, sometimes exhibiting up to a 28% generalization gap across the various test sets. Moreover, we observe that significantly increasing the depth of a network has a very marginal impact on closing the aforementioned generalization gap. Thus we provide quantitative evidence supporting the hypothesis that deep CNNs tend to learn surface statistical regularities in the dataset rather than higher-level abstract concepts. [0] https://arxiv.org/abs/1711.11561
补充把 striding 定为元凶很关键，也解释了 VGG 为何特别适合风格迁移
有意思的是，他们把步长（striding）认定为罪魁祸首。而据 Google AI 的一些人说，步长也正是 VGG 成为少数适合做风格迁移的 CNN 之一的原因（这点原本相当费解）。
gwern查看英文原文
It's interesting that they identify striding as the culprit. Striding is also, according to some people at Google AI, the reason why VGG is one of the few good CNNs for doing style transfer (which is otherwise quite mysterious: https://www.reddit.com/r/MachineLearning/comments/7rrrk3/d_eat_your_vggtables_or_why_does_neural_style/).
补充不变性应靠架构设计内置，神经网络不会凭空学出来，人脑很可能也有专用硬件
时间平移不变性（假设过去的模式能预测未来结果时用到）只是不变性的一种，此外还有空间平移不变性和旋转不变性。你得专门让神经网络去寻找时间平移不变性；同理，你也应当为空间不变性设计架构。换句话说，指望神经网络从零推导出空间和旋转不变性并不合理，而如果人脑没有专门处理这些的硬件，我反而会非常惊讶。
fallingfrog查看英文原文
Time shift invariance, which is used when you assume that past patterns predict future results, is one form of invariance. Space shift invariance and rotation invariance are others. You have to specifically program your nn to look for time shift invariance; stands to reason you'd want to design your architecture for the spacial invariances too. In other words: it's not reasonable to expect a neural net to derive space and rotation invariance from first principles, and I'd be very surprised to learn that the human brain didn't have special purpose hardware for accomplishing those things.
相关资源
从这篇论文所有 HN 讨论帖的全部评论里整理出来的链接。
历次讨论
- 2018Hacker News 讨论帖149 分 · 46 评
同领域还值得读
DeepSeek-R1：通过强化学习激励 LLM 的推理能力
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via RL
研究如何用强化学习激励大语言模型的推理能力，提出 DeepSeek-R1，并探讨 RL 训练对模型推理表现的影响。
AI 与机器学习2025 · 1,351 分 · 1,056 评 · 引用 30进阶 · 约 80 分钟编辑精选1-bit LLM 时代：面向低成本计算的三值参数
The Era of 1-bit LLMs: ternary parameters for cost-effective computing
提出用三值参数 {-1, 0, 1} 替代 LLM 中的浮点权重，即所谓“1-bit LLM”。
AI 与机器学习2024 · 1,040 分 · 447 评 · 引用 19进阶 · 约 45 分钟编辑精选DeepSeek-V3.2：推进开放大语言模型的前沿
DeepSeek-v3.2: Pushing the frontier of open large language models
这是 DeepSeek-V3.2 的技术报告，延续了 DeepSeek 开源权重模型的路线，目标是让开放模型继续逼近甚至追平前沿闭源模型。
AI 与机器学习2025 · 982 分 · 465 评进阶 · 约 90 分钟编辑精选通过自我对弈与通用强化学习掌握国际象棋和将棋（AlphaZero）
Mastering Chess and Shogi by Self-Play with General Reinforcement Learning
DeepMind 的 AlphaZero 论文：用通用强化学习算法（自我博弈 + MCTS + 神经网络），从零开始仅数小时训练便在国际象棋和将棋上击败了世界顶级引擎 Stock…
AI 与机器学习2017 · 539 分 · 270 评 · 引用 13进阶 · 约 90 分钟编辑精选用强化学习发现更快的矩阵乘法算法
Discovering faster matrix multiplication algorithms with reinforcement learning
论文提出 AlphaTensor，用强化学习搜索矩阵乘法算法。
AI 与机器学习2022 · 518 分 · 111 评专业 · 约 90 分钟编辑精选