AI 与机器学习2021arxiv.org
如何用单个参数拟合任意数据集
How to fit any dataset with a single parameter
入门 · 约 20 分钟读完前置知识：过拟合概念、浮点数表示、信息编码
导读
这篇论文探讨如何用单个参数拟合任意数据集，核心思路是把整个数据集编码进该参数的高精度数值表示中，从而在形式上实现完美拟合。它更像是对过拟合、参数容量与数值精度的概念性演示，而非实用的建模方法。
HN 关注点：HN 读者被这种“单参数万能拟合”的极端过拟合逗乐，讨论焦点是：这是否只是把数据藏进无限精度或无限序列里，以及“单参数”说法是否偷换概念。
HN 评论精选
这几条评论里：质疑 1 补充 2 亲历 1
质疑本质上是用无限精度/无限长串编码数据，单参数说法有偷换概念之嫌。
首先，这是一个有趣的实现，我喜欢。其次，你同样可以把无限大的数据集嵌入一个无限长的二进制串，然后说你用一个“单一”参数复现了数据集！这大概就是它在做的事，只是多了几个步骤。
idiotsecant查看英文原文
First, this is a fun implementation and I love it. Second, you could as easily embed an infinite size dataset into an infinitely long binary string and say that you've reproduced your dataset with a 'single' parameter! That's sort of what this is doing, with some extra steps.
补充若精度不受限，正规数常量本身就能编码任意数据集，无需参数。
有趣。但如果我们允许自己使用任意需要的精度，我们甚至不需要参数。任何正规数（normal number）常量都应该够用。这类常量已经包含你能想到的每一种数字序列——也就是说，它们已经包含每一种可能的数据集。编辑：在读了 Scarblac 的评论后，我把“超越数”改成了“正规数”：许多重要的超越数，包括 π，被认为（但尚未被证明！）是正规数。
cs702查看英文原文
Fun read. But if we allow ourselves as much precision as we need, we don't even need a parameter. Any constant that is a normal number should suffice. Such constants already contain every possible sequence of digits you could muster -- i.e., they already contain every possible dataset. EDIT: I replaced "transcendental" with "normal" after reading Scarblac's comment below: https://news.ycombinator.com/item?id=28699622 -- many important transcendental numbers, including π (Pi), are thought to be (but have not been proven to be!) normal.
亲历亲历：用 π 的数字串可找到任意电话号码，说明无限序列可包含任意有限数据。
这让我想起“向用户询问电话号码的最差 UI”，其中一个 UI 强迫用户从 0-9 下拉菜单选择每一位。我想到的具体做法是直接吐出一串可滚动的 π 数字，让用户滚动直到他们的电话号码匹配 π 中对应的数字。我的（7 位）电话号码出现在第 9,000,000 位之后，并在前 200,000,000 位中出现了 21 次。
michaelcampbell查看英文原文
This reminds me of the "worst way to ask a user for a telephone number" UI, after one UI forced the user to select each digit in a 0-9 dropdown. The specific one I'm thinking of is just spit out a scrollable numeric string of Pi, and make the user scroll until their phone number was the digits of Pi that matched it. My (7 digit) phone number occurs after digit position 9_000_000, and occurs 21 times in the first 200_000_000 digits.
补充用小数位编码任意信息，类似单参数思路的玩笑版。
这让我想起读过的一个笑话想法：你可以用一根简单棍子上的一个标记来编码整部《大英百科全书》！只要把文本编码成 ASCII 码放到 0 的小数点后（0.656168.. 等等）。然后只要在棍子上标出那个长度比例就完成了……
air7查看英文原文
This reminds me of a joke idea I read somewhere: You can encode the entire Encyclopaedia Britannica using a single mark on a simple stick! Just encode the text as a ascii codes after the decimal dot of a zero. (0.656168.. etc). Then just mark that ratio of the sticks length and you're done...
相关资源
从这篇论文所有 HN 讨论帖的全部评论里整理出来的链接。
历次讨论
- 2021Hacker News 讨论帖217 分 · 146 评
同领域还值得读
DeepSeek-R1：通过强化学习激励 LLM 的推理能力
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via RL
研究如何用强化学习激励大语言模型的推理能力，提出 DeepSeek-R1，并探讨 RL 训练对模型推理表现的影响。
AI 与机器学习2025 · 1,351 分 · 1,056 评 · 引用 30进阶 · 约 80 分钟编辑精选1-bit LLM 时代：面向低成本计算的三值参数
The Era of 1-bit LLMs: ternary parameters for cost-effective computing
提出用三值参数 {-1, 0, 1} 替代 LLM 中的浮点权重，即所谓“1-bit LLM”。
AI 与机器学习2024 · 1,040 分 · 447 评 · 引用 19进阶 · 约 45 分钟编辑精选DeepSeek-V3.2：推进开放大语言模型的前沿
DeepSeek-v3.2: Pushing the frontier of open large language models
这是 DeepSeek-V3.2 的技术报告，延续了 DeepSeek 开源权重模型的路线，目标是让开放模型继续逼近甚至追平前沿闭源模型。
AI 与机器学习2025 · 982 分 · 465 评进阶 · 约 90 分钟编辑精选通过自我对弈与通用强化学习掌握国际象棋和将棋（AlphaZero）
Mastering Chess and Shogi by Self-Play with General Reinforcement Learning
DeepMind 的 AlphaZero 论文：用通用强化学习算法（自我博弈 + MCTS + 神经网络），从零开始仅数小时训练便在国际象棋和将棋上击败了世界顶级引擎 Stock…
AI 与机器学习2017 · 539 分 · 270 评 · 引用 13进阶 · 约 90 分钟编辑精选用强化学习发现更快的矩阵乘法算法
Discovering faster matrix multiplication algorithms with reinforcement learning
论文提出 AlphaTensor，用强化学习搜索矩阵乘法算法。
AI 与机器学习2022 · 518 分 · 111 评专业 · 约 90 分钟编辑精选