AI 与机器学习2017arxiv.org
DeepCoder:学习编写程序
DeepCoder: Learning to Write Programs
进阶 · 约 45 分钟读完前置知识:程序合成基础、神经网络基础、启发式搜索
导读
这篇论文研究如何从输入输出示例中自动合成程序:先用深度学习模型预测哪些程序构件或函数更可能被用到,再用这些预测引导程序搜索。它属于用机器学习加速程序合成的工作,目标是缩小搜索空间、更快找到满足示例的程序。
HN 关注点:是否意味着 AI 能自动写程序、取代程序员,以及合成代码如何验证、优化并保持可读性。
后来怎么样
作为早期用深度学习引导程序搜索的代表工作,推动了神经引导程序合成方向,并影响了后续程序合成系统。
HN 评论精选
这几条评论里:补充 3
补充工具提升抽象层次和生产力,但在 AGI 之前不会取代程序员。
很明显,过去几十年里,为计算机程序指定语法这件事一直在改进,比如 汇编 -> C -> C++。HN 最近也有帖子讨论缺失的编程范式。随着工具变聪明,编程会以某种方式变容易,把程序员从很多痛苦中解放出来(就像 C/C++ 把我们从繁琐痛苦的汇编中解放出来)。但我很确定它不会取代程序员,因为我们的工作其实不是写代码,而是用一系列工具解决给定问题。更聪明的工具可能提升单人生产力,让人能处理更大更复杂的架构,或催生新的问题领域;研究更快、产品开发更快,一切都会加速。不过,要解决的问题/实现仍然存在,直到出现某种 AGI;如果 AGI 聪明到能解决我们的问题,大概大多数工作都已被取代。
SNBasti查看英文原文
Well, it's obvious that there will be an improvement in specifiying the syntax for a computer program as it has been for the last decades. e.g. Assembler -> C -> C++ There recently has been a post @ HN about the missing programming paradigm (http://wiki.c2.com/?ThereAreExactlyThreeParadigms). With the emerge of smarter tools, programming will get easier in one way or the other, releasing the coder from a lot of pain ( as C or C++ did realse us from tedious, painful assembler ). However, I am quite sure that it won't replace programmers since our job is actually not to code but more to solve a given problem with a range of tools. Smarter tools will probably boost productivity of a single person to handle bigger and more complex architectures or other kinds of new problem areas will come up. Research will go faster. Products will get developed faster. Everything will kind of speed up. Nevertheless, the problems to get solve / implement will remain until there's some kind of GAI. If there's an GAI smart enough to solve our problems probably most of the Jobs have been replaced.
补充可验证或可模糊测试的场景最有前景,但自动优化可能产出难懂的代码,需要人参与保持可读性。
这很有意思,尤其是当生成的代码可以按规格验证,或至少能针对一个“已知正确”的版本做全面 fuzz testing 时。对性能程序员来说有点可怕:也许有人只写一段粗糙的 Python 以“某种速度”解决问题,然后自动化系统把它迭代成经过调优、满是 SIMD 的 C/C++ 怪物。当然现在我们已有优化编译器做这类事,但可以想象自动化系统在迭代时尝试保持清晰和简单,并采用半监督方式、让人在回路中把系统引向更可理解的解。
glangdale查看英文原文
It's intriguing, particularly in cases where the code written could be verified against a specification or at least comprehensively fuzz-tested against a 'known good' version of the program. A mildly terrifying thought for a performance programmer - the idea that, perhaps, someone could just write some sloppy Python code to solve a program "at some speed" and have a automated system iterate it into some tuned, SIMD-laden, C/C++ horror-show. While of course we have optimizing compilers to do this sort of thing now, you could imagine automated systems that attempt to preserve clarity and simplicity as they do it - and such a system could work semi-supervised, iterating with a human in the loop to steer the system towards more comprehensible solutions.
补充ICLR 公开评审提供了更深入的技术批评。
如果想看对这篇论文真正深入的技术讨论/批评,可以读它的 ICLR 同行评审(及其他公开评论):https://openreview.net/forum?id=ByldLrqlx
argonaut查看英文原文
For actual in-depth technical discussion / criticism of the paper, you can read its ICLR peer reviews (and other public comments): https://openreview.net/forum?id=ByldLrqlx
相关资源
从这篇论文所有 HN 讨论帖的全部评论里整理出来的链接。
历次讨论
- 2017Hacker News 讨论帖183 分 · 54 评
同领域还值得读
DeepSeek-R1:通过强化学习激励 LLM 的推理能力
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via RL
研究如何用强化学习激励大语言模型的推理能力,提出 DeepSeek-R1,并探讨 RL 训练对模型推理表现的影响。
AI 与机器学习2025 · 1,351 分 · 1,056 评 · 引用 30进阶 · 约 80 分钟编辑精选1-bit LLM 时代:面向低成本计算的三值参数
The Era of 1-bit LLMs: ternary parameters for cost-effective computing
提出用三值参数 {-1, 0, 1} 替代 LLM 中的浮点权重,即所谓“1-bit LLM”。
AI 与机器学习2024 · 1,040 分 · 447 评 · 引用 19进阶 · 约 45 分钟编辑精选DeepSeek-V3.2:推进开放大语言模型的前沿
DeepSeek-v3.2: Pushing the frontier of open large language models
这是 DeepSeek-V3.2 的技术报告,延续了 DeepSeek 开源权重模型的路线,目标是让开放模型继续逼近甚至追平前沿闭源模型。
AI 与机器学习2025 · 982 分 · 465 评进阶 · 约 90 分钟编辑精选通过自我对弈与通用强化学习掌握国际象棋和将棋(AlphaZero)
Mastering Chess and Shogi by Self-Play with General Reinforcement Learning
DeepMind 的 AlphaZero 论文:用通用强化学习算法(自我博弈 + MCTS + 神经网络),从零开始仅数小时训练便在国际象棋和将棋上击败了世界顶级引擎 Stock…
AI 与机器学习2017 · 539 分 · 270 评 · 引用 13进阶 · 约 90 分钟编辑精选用强化学习发现更快的矩阵乘法算法
Discovering faster matrix multiplication algorithms with reinforcement learning
论文提出 AlphaTensor,用强化学习搜索矩阵乘法算法。
AI 与机器学习2022 · 518 分 · 111 评专业 · 约 90 分钟编辑精选