AI 与机器学习2017arxiv.org
欺骗深度神经网络的单像素攻击
One pixel attack for deceiving deep neural networks
入门 · 约 45 分钟读完前置知识：深度学习基础、图像分类
导读
这篇论文提出“单像素攻击”：只需修改图像中一个像素，就能让深度神经网络图像分类器输出错误分类。作者用差分进化算法搜索最优的像素位置和颜色，在多个网络和数据集上验证了这种对抗攻击的有效性。
HN 关注点：对抗样本是 HN 长期热门话题，这条评论串的焦点是：人类视觉是否也有类似的“可被欺骗”的弱点，以及神经网络为何如此脆弱。
后来怎么样
这篇论文是对抗样本研究的早期代表作之一，'单像素攻击'成为对抗攻击文献中的经典基线，常被后续对抗鲁棒性研究引用和对比。
HN 评论精选
这几条评论里：质疑 2 补充 2
质疑质疑人类视觉是否真的对对抗攻击免疫
讨论神经网络对抗攻击时，大家似乎都默认人类视觉系统对这类把戏免疫。我很想知道（也有点害怕知道）事实是否如此——我们已经知道很多视错觉会让人看到与“本应看到”不同的东西，所以想出技术手段生成更极端的例子并非天方夜谭。
taneq查看英文原文
When discussing adversarial attacks on neural nets, everyone seems to just kind of take for granted that the human visual system is immune to this kind of fudgery. I'd be very interested (and a little afraid) to know if this is in fact the case - we know of a bunch of optical illusions that are perceived differently to what they "ought to be", so it's not too much of a stretch to figure that we could come up with a technique to generate more extreme examples.
补充设想未来拥有人脑连接组后，可能构造欺骗人类视觉的图像
如果能通过了解神经网络的结构专门构造“欺骗性”图像，那人脑的等价物是什么？如果我们掌握了人类连接组——或神经织网那种级别的神经拓扑访问能力——优化器能否生成一张让人类误以为是美国总统的噪点图？这看似不可能，但也许只是因为我们从未见过（就算见过，我们能察觉吗？），而盲目搜索图像空间永远找不到它。但如果真有大脑的“地图”，这可能突然变得可行。如果真是那样，那个世界听起来非常可怕。
tbabb查看英文原文
If by knowing the structure of a NN a "trick" image can be specially crafted to fool it, what is the equivalent for a human brain? If we get to the point of having a human connectome to analyze-- or the kind of access to neural topology that a neural lace would provide-- could an optimizer generate an image of static that human would mistake for the president of the United States? It seems outwardly implausible that such an image could exist, but perhaps that is only because we've never seen one (or if we had, would we know?), and a "blind" search of images would never find it, as the space of images is galactically huge. With a "map" of the brain it might suddenly become plausible. And if so, that world sounds absolutely terrifying to me.
补充解释对抗样本的成因：分类边界离数据点太近
根本问题似乎在于：深度神经网络分类器往往把分类边界设得离高维空间中的数据点非常近（至少在一个维度上）。这让它们很脆弱——数据在错误方向上被轻微扰动，就会越过边界落入另一个分类。我不太了解这个领域，不知道训练为什么会这样，也不知道能怎么办。
Animats查看英文原文
The underlying problem seems to be that deep neural network classifiers tend to place their classification boundary surfaces very close to data points in at least one dimension in a high-dimensional space. That makes them brittle - perturb the data very slightly in the wrong direction and they move through a boundary into some other classification. I don't know enough about the subject to know why training does that, or what can be done about it.
质疑指出实验图像只有 32x32 像素，攻击效果没那么惊人
图 8：如果没有标签，我自己根本看不出那是一张狗的图片。顺便说一句，论文中使用的图像是 32x32 像素的。
metaphor查看英文原文
Figure 8. Without a label, I wouldn't have been able to independently tell anyone that this was a picture of a dog. For what it's worth, images used in this paper are 32x32 pixels.
相关资源
从这篇论文所有 HN 讨论帖的全部评论里整理出来的链接。
- 视频与演讲
- 评论区提到的论文
历次讨论
- 2017Hacker News 讨论帖260 分 · 129 评
同领域还值得读
DeepSeek-R1：通过强化学习激励 LLM 的推理能力
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via RL
研究如何用强化学习激励大语言模型的推理能力，提出 DeepSeek-R1，并探讨 RL 训练对模型推理表现的影响。
AI 与机器学习2025 · 1,351 分 · 1,056 评 · 引用 30进阶 · 约 80 分钟编辑精选1-bit LLM 时代：面向低成本计算的三值参数
The Era of 1-bit LLMs: ternary parameters for cost-effective computing
提出用三值参数 {-1, 0, 1} 替代 LLM 中的浮点权重，即所谓“1-bit LLM”。
AI 与机器学习2024 · 1,040 分 · 447 评 · 引用 19进阶 · 约 45 分钟编辑精选DeepSeek-V3.2：推进开放大语言模型的前沿
DeepSeek-v3.2: Pushing the frontier of open large language models
这是 DeepSeek-V3.2 的技术报告，延续了 DeepSeek 开源权重模型的路线，目标是让开放模型继续逼近甚至追平前沿闭源模型。
AI 与机器学习2025 · 982 分 · 465 评进阶 · 约 90 分钟编辑精选通过自我对弈与通用强化学习掌握国际象棋和将棋（AlphaZero）
Mastering Chess and Shogi by Self-Play with General Reinforcement Learning
DeepMind 的 AlphaZero 论文：用通用强化学习算法（自我博弈 + MCTS + 神经网络），从零开始仅数小时训练便在国际象棋和将棋上击败了世界顶级引擎 Stock…
AI 与机器学习2017 · 539 分 · 270 评 · 引用 13进阶 · 约 90 分钟编辑精选用强化学习发现更快的矩阵乘法算法
Discovering faster matrix multiplication algorithms with reinforcement learning
论文提出 AlphaTensor，用强化学习搜索矩阵乘法算法。
AI 与机器学习2022 · 518 分 · 111 评专业 · 约 90 分钟编辑精选