神经科学与心理学2017biorxiv.org编辑精选
新皮层为何具有柱状结构?一种学习世界结构的理论
Why Does the Neocortex Have Columns? A Theory of Learning Structure of the World
进阶 · 约 75 分钟读完前置知识:计算神经科学、新皮层解剖、机器学习基础
导读
这篇预印本论文(Jeff Hawkins/Numenta 的理论框架)试图解释新皮层为何以柱状结构组织,提出柱状结构可能是大脑学习世界结构的功能单元,并列出若干可检验预测。
HN 关注点:焦点是:这类生物启发理论虽有趣,但能否像主流机器学习一样产生可测量、可复现的强结果。
HN 评论精选
这几条评论里:支持 1 质疑 2 亲历 1
支持赞赏 Hawkins 坚持非主流理论,批评主流 ML 过度追逐微小提升且缺乏理解。
Jeff Hawkins 在机器学习圈常被嘲讽,因为他的理论没有产出像主流方法那样好的结果,但我很高兴他们仍在坚持并提出有趣想法。如今太多机器学习只是在某个特定任务上比 SOTA 好 0.n% 的神经网络模型;改一个微小参数整个东西就崩了,说明我们根本不理解它为何有效。
Cacti查看英文原文
Jeff Hawkins gets shit on a lot in ML because his theories haven’t produced models with results as good as the mainstream approach, but I’m glad they keep working at it and keep coming up with interesting ideas. Too much of ML these days is about some NN model that does 0.n% better than SOTA on some specific task. Then you change one tiny parameter and he entire thing breaks, and it turns out we didn’t understand why it was working at all.
质疑欣赏其启发价值,但强调需实证标杆;论文预测虽多却难验证。
我一直喜欢读关于大脑如何运作的分析、想法和直觉,因为它能给机器学习改进提供灵感并用于现实。话虽如此,我仍乐观等待 Numenta(以及 Geoff Hinton 的 capsule 理论)在众多困难的图像、语音、语言等识别挑战中树立新标杆。想法很好,但归根结底科学要靠用现实检验想法来推进。值得肯定的是这篇论文确实提出了一系列预测,不过目前这些预测在生物系统中似乎极难测量。
electrograv查看英文原文
Full paper here: https://www.biorxiv.org/content/biorxiv/early/2017/09/28/162263.full.pdf I always enjoy reading analysis/ideas/intuitions about how the brain works, because it provides inspiration for machine learning improvements that can be applied in the real world. That said, I’m still optimistically waiting for Numenta (and Geoff Hinton’s capsule theory) to set the new bar at one of the many difficult image/speech/language/etc recognition challenges. Ideas are great, but at the end of the day science moves forward when we measure our ideas against reality. (To the credit of this paper, it does make a series of predictions, though those seem extremely difficult to measure in biological systems for the time being.)
质疑质疑用当下技术隐喻解释大脑,更认可细胞类型等实证研究。
我持怀疑态度。以前大脑被说成由驱动和滑轮组成的机器,就像当时的技术;现在大脑是运行深度学习模型的计算机。只说皮层有柱是一回事,继续用线性代数建模这些柱在做什么是另一回事。这幅图景与当前科技潮流同时出现,巧合太大,不能忽视。我更感兴趣的是识别不同细胞类型的工作,比如位置细胞。
platz查看英文原文
Skeptical. Previously the brain was a machine consisting of drives and pulleys, just like the state of technology of the day. Now the brain is a computer that runs deep learning models. It would be one thing to just say the cortex has columns. It's another to go on and model what those columns are doing with linear algebra. The coincidence that this picture emerges at the same time as current fads in tech is too great to ignore I am more interested in the work that is identifying different kinds of cells e.g place cells
亲历个人经历:Numenta 的生物启发方法独特且曾激发兴趣。
很高兴又看到 Numenta 上新闻。《On Intelligence》是让我对基于生物的机器学习兴奋起来的书。书里的方法与我现在看到的任何“时髦”机器学习都非常不同。
brad0查看英文原文
Great to see numenta in the news again. On Intelligence was the book that got me excited about biologically based machine learning. The methods that in that book is very different to anything else I’ve seen in current “trendy” ML.
相关资源
从这篇论文所有 HN 讨论帖的全部评论里整理出来的链接。
历次讨论
- 2017Hacker News 讨论帖237 分 · 73 评
同领域还值得读
神经科学家能理解微处理器吗?(2017)
Could a Neuroscientist Understand a Microprocessor? (2017)
提出一个思想实验:把神经科学常用的分析方法(损伤实验、电生理、功能定位等)应用到一个我们完全了解其原理的工程系统——6502 微处理器(运行游戏)上,检验这些方法能否真正“理解”…
神经科学与心理学2017 · 411 分 · 135 评进阶 · 约 60 分钟编辑精选大脑衰老呈现非线性转变,提示中年“关键窗口”
Brain aging shows nonlinear transitions, suggesting a midlife "critical window"
这篇 PNAS 论文研究大脑衰老的非线性变化,发现大脑老化并非匀速进行,而是在中年(约 40-60 岁)存在一个关键的"临界窗口期",此时干预可能有效。
神经科学与心理学2025 · 295 分 · 159 评进阶 · 约 75 分钟编辑精选社交网络中大规模情绪传染的证据(2014)
Evidence of massive-scale emotional contagion through social networks (2014)
这篇 2014 年发表于 PNAS 的论文研究了 Facebook 上约 70 万用户的信息流中,减少正面或负面内容是否会传染性地影响用户自己发布内容的情绪。
神经科学与心理学2020 · 285 分 · 72 评入门 · 约 45 分钟编辑精选裸盖菇素使人类大脑去同步化
Psilocybin desynchronizes the human brain
这篇 Nature 研究用个体化的 fMRI 精密成像追踪受试者服用裸盖菇素(psilocybin)前后的脑功能连接变化,发现药物会造成大范围的脑网络「去同步化」,尤其是默认模式…
神经科学与心理学2024 · 273 分 · 259 评进阶 · 约 60 分钟编辑精选对智力的赞扬会削弱儿童的动机与表现(1998)
Praise for Intelligence Can Undermine Children's Motivation (1998)
这篇 1998 年的经典论文(Dweck 等人)通过实验研究表扬方式对儿童动机的影响:夸孩子“聪明”(表扬智力)会让他们回避挑战、害怕失败,而表扬努力则更能培养坚持性。
神经科学与心理学2016 · 253 分 · 155 评入门 · 约 45 分钟编辑精选