生物与医学2019biorxiv.org编辑精选
从 2.5 亿条蛋白质序列的无监督学习中涌现出生物功能
Biological Function Emerges from Unsupervised Learning on 250M Protein Sequences
进阶 · 约 60 分钟读完前置知识：自监督学习基础、蛋白质序列基础、无监督表示学习
导读
这篇论文（Meta AI 与 NYU 等团队的工作）在约 2.5 亿条蛋白质序列上进行无监督训练，学习到的表示能够映射出蛋白质的结构与功能等生物学特性，无需人工标注或先验领域知识。这展示了大规模自监督学习可以从原始生物序列中“涌现”出生物学意义。
HN 关注点：是因为这是“NLP 式大规模预训练”思路在生物学领域的标志性应用（后来的 ESM 系列模型的前身），讨论焦点集中在可复现性缺失和论文写作的浮夸风格上。
后来怎么样
这项工作是蛋白质语言模型方向的早期里程碑，其后续演进（ESM 系列模型）被广泛用于蛋白质结构预测与设计，推动了整个蛋白质大模型领域的形成。
HN 评论精选
这几条评论里：支持 1 质疑 3
质疑批评论文缺乏代码与数据，无法复现，限制了科研价值
和今天其他登上首页的 ML/AI 帖子一样，这项研究也没有提供任何清晰的结果复现方式。我查了预印本页面和完整稿件。没有代码、数据和环境的可复现性与透明度，这项研究的影响力终究有限：别人无法重现、迭代和改进结果，也无法严格评估其方法（除了读完稿件后瞎猜）。都 2019 年了，是时候用代码、数据和计算环境说明来支撑你的结论了。科学的意义就在于分享工作让社区在此基础上构建，论文手稿只留作漂亮的形式即可。
gigantum查看英文原文
Like some of the other ML/AI posts that made it to the top page today, this research too does not give any clear way to reproduce the results. I looked through the pre-print page as well as the full manuscript itself. Without reproducibility and transparency in the code and data, the impact of this research is ultimately limited. No one else can recreate, iterate, and refine the results, nor can anyone rigorously evaluate the methodology used (besides giving a guess after reading a manuscript). The year is 2019, many are finally realizing it's time to back up your results with code, data, and some kind of specification of the computing environment you're using. Science is about sharing your work for others in the research community to build upon. Leave the manuscript for the pretty formality.
质疑认为论文被炒作话术淹没，方法合理但写作和实验展示糟糕
我觉得这篇论文充斥着炒作和教条，几乎难以读懂。可惜了，因为方法本身是合理的。我只希望他们老老实实描述自己做了什么，而不是整篇论文都在自说自话、展示缺乏说服力的实验。不需要为自己的做法辩护，直接做就是了。
andbberger查看英文原文
I find this paper to be so steeped in hype and dogma so as to be nearly incomprehensible. Which is a shame, because it's a reasonable approach. I just wish they just frickin described what they did instead of spending the whole paper monologuing and showcasing unconvincing experiments. No need to justify what you're doing, just do it.
支持看好用可微模型设计全新蛋白质的方向，但引用 Chollet 的话对“堆规模”表示保留
这是 NYU Fergus 实验室的工作（他就在 Yann LeCun 隔壁）。虽然离生命起源理论还很远，但下一步的好方向是用可微模型预测自然界中没有类似物的全新蛋白质，就像材料基因组研究者寻找物质的稳定相一样！正如 François Chollet 所说：“在越来越大的数据集上训练越来越大的卷积网络和 LSTM 让我们更接近强 AI——就像建更高的塔让我们更接近月球一样。”
ArtWomb查看英文原文
Fergus Lab at NYU. I believe he's across the hall from Yann LaCunn as well ;) Still a long way from a Theory of Biogenesis. But a good next step is using a differentiable model to predict novel proteins which have no analogue in Nature. Much like Materials Genome researchers searching for stable phases of matter! "Training ever bigger convnets and LSTMs on ever bigger datasets gets us closer to Strong AI -- in the same sense that building taller towers gets us closer to the moon." --François Chollet
质疑质疑论文核心概念的模糊性：表示和“生物学功能”定义不清
论文称“模型将原始序列映射到生物学特性的表示，无需标签或先验领域知识”。几个问题：1. 这些表示到底是什么？2. “生物学功能”指什么？3. 学到的表示提取了哪些“生物学特性”本身不包含的信息？
obviuosly查看英文原文
> The resulting model maps raw sequences to representations of biological properties without labels or prior domain knowledge. A couple of questions: 1. What are those representations? 2. Also what is "biological function"? 3. What kind of information does the learned representation extract that is not already in the "biological properties" it is trained to map to?
相关资源
从这篇论文所有 HN 讨论帖的全部评论里整理出来的链接。
历次讨论
- 2019Hacker News 讨论帖251 分 · 49 评
同领域还值得读
CRISPR 在活体动物中消除 HIV-1 感染
CRISPR eliminates HIV-1 infection in live animals
报告利用 CRISPR/Cas9 基因编辑技术在活体动物中清除 HIV-1 感染：研究人员通过腺病毒载体递送特定的 Cas9 系统，从被感染细胞中切除嵌入的 HIV 病毒 DNA。
生物与医学2017 · 1,455 分 · 239 评入门 · 约 30 分钟编辑精选保护区飞行昆虫生物量27年下降75%
75% decline over 27 years in total flying insect biomass in protected areas
这篇发表于 PLOS ONE 的研究通过在德国保护区长达 27 年的昆虫生物量监测，发现飞行昆虫总量下降了约 75%。
生物与医学2017 · 901 分 · 432 评入门 · 约 45 分钟编辑精选为什么大多数已发表的研究发现是错的
Why Most Published Research Findings Are False (2005)
这篇 2005 年发表于 PLOS Medicine 的经典论文由 John Ioannidis 撰写，论证了在统计功效不足、研究偏倚和多重检验等因素下，大多数已发表的医学研究发…
生物与医学2022 · 388 分 · 351 评入门 · 约 60 分钟编辑精选人类免疫系统的物理接线图
A physical wiring diagram for the human immune system
这篇 Nature 论文系统绘制了人类免疫系统的“物理接线图”：通过大规模实验鉴定免疫细胞表面受体之间的相互作用（包括约 30 种此前未知的受体互作），并结合定量计算模型模拟免疫…
生物与医学2022 · 342 分 · 49 评专业 · 约 90 分钟编辑精选脂肪组织在减重后仍保留肥胖的表观遗传记忆
Adipose tissue retains an epigenetic memory of obesity after weight loss
这篇 Nature 论文研究了肥胖对脂肪组织的长期影响：即使减重成功，脂肪细胞仍保留着肥胖时期的表观遗传记忆，可能解释为什么减重后容易反弹。
生物与医学2025 · 263 分 · 327 评进阶 · 约 45 分钟编辑精选