神经科学与心理学2021sciencedirect.com
单个皮层神经元作为深度人工神经网络
Single cortical neurons as deep artificial neural networks
进阶 · 约 90 分钟读完前置知识：深度神经网络基础、计算神经科学基础、树突计算
导读
这篇论文研究单个皮层神经元是否不只是简单的求和单元，而可能具有类似深度神经网络的计算能力。作者通过建模发现，单个皮层神经元的行为可以被一个 5–8 层的深度神经网络很好地近似，暗示单个生物神经元的计算复杂度可能远超人工神经网络中的单个神经元。
HN 关注点：是因为这挑战了'1 个神经元 ≈ 1 个 ANN 神经元'的常见假设，引发关于大脑真实计算能力以及能否据此估算通用 AI 所需算力的讨论。
HN 评论精选
这几条评论里：支持 1 质疑 1 补充 2
支持生物神经元远比 ANN 神经元复杂，'1 spike = 1 FLOP'式的大脑算力估算不可信
ANN 神经元是 Pitts-McCulloch 神经元，一种基于 1940 年代对神经元理解的极度简化模型：每个神经元就是一次点积加一个函数。而一个生物神经元约 6e17 道尔顿，即千万亿量级的原子。单个突触就是一片布满各类受体的巨大'景观'，整个系统浸泡在盐溶液中，化学物质随机扩散，还有胶质细胞参与。所以我怀疑任何关于人脑计算能力的论断——它们大多从'1 个脉冲 = 1 FLOP'的假设出发。
zetalyrae查看英文原文
ANN neurons are Pitts-McCulloch neurons, an extremely stylized model of the 1940's understanding of neurons. Each neuron represents a dot product plus a function application. A biological neuron is 6e17 Daltons[0], so on the order of quadrillions of atoms. A single synapse is a huge landscape studded with receptors of various kinds, and the whole thing is swimming in salt solution where chemicals diffuse stochastically. And then there's the glia. This is why I dismiss any claims about the computational power of the human brain, most of which seem to begin with the assumption that "1 spike = 1 FLOP", and that'll all that goes on in the brain. [0]: https://faculty.washington.edu/chudler/facts.html and https://www.wolframalpha.com/input/?i=1E-06+grams+in+dalton
质疑5–8 层可能只是'模拟开销'，论文结论只是上界而非等价证明
论文说皮层神经元可被 5–8 层 DNN 近似。但我想知道需要多少个皮层神经元才能很好地近似一个 ReLU 或 tanh——我怀疑这个数大于 1。如果是这样，论文只给出了一个上界。就像用神经元模拟两位十进制数相加，这 5–8 层中很可能有相当一部分只是'模拟开销'。有人知道关于这种模拟开销的研究吗？即使在 ARM 和 x86 之间，由于内存模型不同也存在模拟开销。
freemint查看英文原文
> Cortical neurons are well approximated by a deep neural network (DNN) with 5–8 layers I wonder how many cortical neurons it takes to approximate a ReLu or tanh well. I suspect this number being large than 1. If so the paper only shows an upper bound. Think how many neurons does it take to add a two 10 digit numbers. It is perfectly feasible that some (possibly large) part of this 5-8 layers is just "emulation overhead". Does someone know of studies of this emulation overhead, even outside biology? Even between ARM and x86 there is an emulation overhead due to different memory models while both are register machines.
补充推荐 Jeff Hawkins 的播客访谈作为相关补充资料
Lex Fridman 播客最近与 Jeff Hawkins 的一期谈到了单个神经元计算能力这个话题，整期节目都很精彩。
tambourine_man查看英文原文
The recent episode of the Lex Fridman podcast with Jeff Hawkins touches on this issue of the computational capabilities of single neurons: https://youtube.com/watch?v=Z1KwkpTUbkg Great episode all around.
补充即使 AI 算力追上大脑，只要成本更高，人类仍具经济比较优势
生物/生物化学能从仅仅 20 瓦的功耗中榨出大量计算。即使我们能在硅上获得同等的算力并有接近人类水平通用 AI 的算法，只要硬件成本高于养育和教育一个人的成本、运行成本高于同等任务的工资，人类就仍能保持比较优势。
MAXPOOL查看英文原文
Biology/biochemistry can squeeze a good amount of computation from just 20 watts. Even if we could get equal computation from silicon and have an algorithm to run near human-level general AI, humans can maintain the comparative advantage as long as the cost of hardware is more than the cost of raising and educating a human, and the operating cost is more than wages for the same task.
相关资源
从这篇论文所有 HN 讨论帖的全部评论里整理出来的链接。
历次讨论
- 2021Hacker News 讨论帖164 分 · 133 评
同领域还值得读
神经科学家能理解微处理器吗？（2017）
Could a Neuroscientist Understand a Microprocessor? (2017)
提出一个思想实验：把神经科学常用的分析方法（损伤实验、电生理、功能定位等）应用到一个我们完全了解其原理的工程系统——6502 微处理器（运行游戏）上，检验这些方法能否真正“理解”…
神经科学与心理学2017 · 411 分 · 135 评进阶 · 约 60 分钟编辑精选大脑衰老呈现非线性转变，提示中年“关键窗口”
Brain aging shows nonlinear transitions, suggesting a midlife "critical window"
这篇 PNAS 论文研究大脑衰老的非线性变化，发现大脑老化并非匀速进行，而是在中年（约 40-60 岁）存在一个关键的"临界窗口期"，此时干预可能有效。
神经科学与心理学2025 · 295 分 · 159 评进阶 · 约 75 分钟编辑精选社交网络中大规模情绪传染的证据（2014）
Evidence of massive-scale emotional contagion through social networks (2014)
这篇 2014 年发表于 PNAS 的论文研究了 Facebook 上约 70 万用户的信息流中，减少正面或负面内容是否会传染性地影响用户自己发布内容的情绪。
神经科学与心理学2020 · 285 分 · 72 评入门 · 约 45 分钟编辑精选裸盖菇素使人类大脑去同步化
Psilocybin desynchronizes the human brain
这篇 Nature 研究用个体化的 fMRI 精密成像追踪受试者服用裸盖菇素（psilocybin）前后的脑功能连接变化，发现药物会造成大范围的脑网络「去同步化」，尤其是默认模式…
神经科学与心理学2024 · 273 分 · 259 评进阶 · 约 60 分钟编辑精选对智力的赞扬会削弱儿童的动机与表现（1998）
Praise for Intelligence Can Undermine Children's Motivation (1998)
这篇 1998 年的经典论文（Dweck 等人）通过实验研究表扬方式对儿童动机的影响：夸孩子“聪明”（表扬智力）会让他们回避挑战、害怕失败，而表扬努力则更能培养坚持性。
神经科学与心理学2016 · 253 分 · 155 评入门 · 约 45 分钟编辑精选