AI 与机器学习2024arxiv.org
AI 与知识崩溃问题
AI and the Problem of Knowledge Collapse
入门 · 约 30 分钟读完前置知识：AI 生成内容基础、知识生态与信息多样性、机器学习基本概念
导读
这篇论文提出“知识坍缩”问题：AI 生成内容被反复回收再训练或引用时，可能使人类知识逐渐收敛到狭窄的分布，削弱多样性和长尾观点。作者据此讨论了 AI 辅助写作与学习对知识生态的潜在影响。
HN 关注点：HN 读者围绕“AI 导致知识同质化”是否成立展开争论，不少人认为信息集中早已有之，质疑这是否只是对新工具的习惯性担忧。
HN 评论精选
这几条评论里：质疑 3 补充 1
质疑认为“用新工具有害”是老调重弹，个人使用 LLM 获益无可厚非
我对论文的前提没有太多异议，只是每当出现一个好用的新工具，就有人找出理由说用它有害，这让我很反感。人类天生善于灵活利用手边的工具解决问题。LLM 在某些任务上非常有用，在另一些任务上帮助不大。为那些不学常用工具、原地踏步或抱有无理恐惧的人感到惋惜。担心强势机构用 AI 做监控、侵犯隐私是合理的，但我强烈反对说个人用 Perplexity、ChatGPT 省时间、获得更好结果，或把 LLM 当作常识来源、语言处理器、数据转换工具是坏事。
mark_l_watson查看英文原文
I don’t disagree much with the paper’s premise, except that I am turned off whenever there is a handy new tool for us to use and then some people come up with reasons why using the new tool is a harmful thing to do. We humans evolved to be very flexible and naturally use what is in front of us to solve whatever problems we need to solve. For some tasks LLMs are very useful and for other tasks they don’t offer much help. I feel sorry for people who don’t learn how to use common tools because they are stuck in place or have unreasonable fears. It is reasonable to worry about how powerful actors might use AI for surveillance and removing privacy rights, but I strongly disagree that it is a bad thing for individuals to sometimes save time and sometimes get better results by manually using tools like Perplexity and ChatGPT, and automating things using LLMs as sources of general common sense knowledge, as language processors, data transformation, etc.
质疑质疑：维基百科早已是知识收敛的源头，AI 并非新问题
按这个定义，维基百科是不是早就造成“知识坍缩”了？因为随便搜一个概念，它通常都是第一条结果，也是无数其他来源引用的对象。
resolutebat查看英文原文
So by this definition, do we already have "knowledge collapse" by Wikipedia? Because if you search for a random concept, that's usually the first hit, and it's also what countless other sources draw on.
补充认为真正的问题是信息过载，AI 反而是应对它的必要工具
问题到底出在 AI，还是出在我们被迫在其中生存的充满敌意的新信息环境？指望人们在信息洪流中保持清醒，却不给他们新的查询和过滤工具，这太残忍了。
blurbleblurble查看英文原文
Is it the AI that's the trouble or the hostile new information environment we're expected to navigate and survive? Expecting us to remain sane amidst these torrents of information without new tools for querying and filtering it is cruel.
质疑认为信息集中于少数权威是常态，AI 并未改变这一点
我觉得一直如此。整个信息经济都建立在少数关键出版商和人物之上——新闻、学术界、社交媒体里到处都是正统观念。不确定 AI 有什么不同。
knowsuchagency查看英文原文
I feel like this has always been the case. The entire information economy is based on a few key publishers and figures. You see it in news, academia, social media -- there's orthodoxy everywhere. Not sure how AI is any different.
相关资源
从这篇论文所有 HN 讨论帖的全部评论里整理出来的链接。
历次讨论
- 2024Hacker News 讨论帖189 分 · 127 评
同领域还值得读
DeepSeek-R1：通过强化学习激励 LLM 的推理能力
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via RL
研究如何用强化学习激励大语言模型的推理能力，提出 DeepSeek-R1，并探讨 RL 训练对模型推理表现的影响。
AI 与机器学习2025 · 1,351 分 · 1,056 评 · 引用 30进阶 · 约 80 分钟编辑精选1-bit LLM 时代：面向低成本计算的三值参数
The Era of 1-bit LLMs: ternary parameters for cost-effective computing
提出用三值参数 {-1, 0, 1} 替代 LLM 中的浮点权重，即所谓“1-bit LLM”。
AI 与机器学习2024 · 1,040 分 · 447 评 · 引用 19进阶 · 约 45 分钟编辑精选DeepSeek-V3.2：推进开放大语言模型的前沿
DeepSeek-v3.2: Pushing the frontier of open large language models
这是 DeepSeek-V3.2 的技术报告，延续了 DeepSeek 开源权重模型的路线，目标是让开放模型继续逼近甚至追平前沿闭源模型。
AI 与机器学习2025 · 982 分 · 465 评进阶 · 约 90 分钟编辑精选通过自我对弈与通用强化学习掌握国际象棋和将棋（AlphaZero）
Mastering Chess and Shogi by Self-Play with General Reinforcement Learning
DeepMind 的 AlphaZero 论文：用通用强化学习算法（自我博弈 + MCTS + 神经网络），从零开始仅数小时训练便在国际象棋和将棋上击败了世界顶级引擎 Stock…
AI 与机器学习2017 · 539 分 · 270 评 · 引用 13进阶 · 约 90 分钟编辑精选用强化学习发现更快的矩阵乘法算法
Discovering faster matrix multiplication algorithms with reinforcement learning
论文提出 AlphaTensor，用强化学习搜索矩阵乘法算法。
AI 与机器学习2022 · 518 分 · 111 评专业 · 约 90 分钟编辑精选