AI 与机器学习2024arxiv.org
LLM 智能体之间合作的文化演化
Cultural Evolution of Cooperation Among LLM Agents
进阶 · 约 60 分钟读完前置知识：博弈论基础、重复囚徒困境、LLM 智能体基础
导读
这篇论文研究 LLM 智能体之间在重复博弈等场景中合作行为的文化演化：多个 LLM 智能体通过互动和学习，能否形成并传递合作规范。论文探讨了不同模型在合作博弈中的表现差异及其演化动态。
HN 关注点：LLM 是否能作为博弈论实验中的人类替代品，以及这类研究是否缺乏严格的敏感性分析。
HN 评论精选
这几条评论里：质疑 1 补充 2 亲历 1
亲历亲历两个 LLM 对话时会陷入无限循环的客套道别
我用 ollama 让 Mistral 和 Llama 两个模型对话，给双方都加了'你即将和另一个 LLM 交谈'的提示。它们聊了各种随机话题，但最有趣的是对话结束时的现象：M 说'再见！'，LL 回'再见'，M 又说'待会儿见！'，LL 回'祝你有美好的一天！'……就这样没完没了地互相道别下去。
alexpotato查看英文原文
Using ollama, I recently had a Mistral LLM talk to a Llama model. I used a prompt along the lines of "you are about to talk to another LLM" for both. They ended up chatting about random topics which was interesting to see but the most interesting phenomenon was when the conversation was ending. It went something like: M: "Bye!" LL: "Bye" M: "See you soon!" LL: "Have a good day!" on and on and on.
质疑批评这类研究缺乏对温度、采样等参数的敏感性分析
不比较不同设置下的模型就没有意义。同一个模型换个温度、采样器等参数，可能就完全是另一个模型了。几乎所有 AI 研究都是这样：对模型能力大放厥词，却连最基本的敏感性分析或消融实验都不做。
Der_Einzige查看英文原文
Useless without comparing models with different settings. The same model with a different temperature, sampler, etc might as well be a different model. Nearly all AI research does this whole “make big claims about what a model is capable of” and then they don’t do even the most basic sensitivity analysis or ablation study…
补充补充 Meta 关于心智理论训练可显著提升模型推理他人状态能力的研究
相关：Meta 最近发现模型没有在有助于推理其他实体感知/知识的数据上训练过。他们生成合成数据用于训练后重新测试，模型在心智理论（ToM）基准上大幅提升。https://ai.meta.com/research/publications/explore-theory-of-mind-program-guided-adversarial-data-generation-for-theory-of-mind-reasoning/ 我想知道这些模型如果见过更多'推理其他智能体状态'的例子，在这类测试中会不会表现更好。
eightysixfour查看英文原文
Related - Meta recently found that the models have not been trained on data that helps the models reason about other entities’ perceptions/knowledge. They created synthetic data for training and retested, and it improved substantially in ToM benchmarks. https://ai.meta.com/research/publications/explore-theory-of-mind-program-guided-adversarial-data-generation-for-theory-of-mind-reasoning/ I wonder if these models would perform better in this test since they have more examples of “reasoning about other agents’ states.”
补充提出 LLM 能否替代人类参与博弈论实验作为新图灵测试的设想
我在想下一个图灵测试会不会是：LLM 能否在合作博弈论实验中作为人类的替代品。
hansonkd查看英文原文
I wonder if the next Turing test is if LLMs can be used as humans substitutes in game theory experiments for cooperation.
历次讨论
- 2024Hacker News 讨论帖246 分 · 131 评
同领域还值得读
DeepSeek-R1：通过强化学习激励 LLM 的推理能力
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via RL
研究如何用强化学习激励大语言模型的推理能力，提出 DeepSeek-R1，并探讨 RL 训练对模型推理表现的影响。
AI 与机器学习2025 · 1,351 分 · 1,056 评 · 引用 30进阶 · 约 80 分钟编辑精选1-bit LLM 时代：面向低成本计算的三值参数
The Era of 1-bit LLMs: ternary parameters for cost-effective computing
提出用三值参数 {-1, 0, 1} 替代 LLM 中的浮点权重，即所谓“1-bit LLM”。
AI 与机器学习2024 · 1,040 分 · 447 评 · 引用 19进阶 · 约 45 分钟编辑精选DeepSeek-V3.2：推进开放大语言模型的前沿
DeepSeek-v3.2: Pushing the frontier of open large language models
这是 DeepSeek-V3.2 的技术报告，延续了 DeepSeek 开源权重模型的路线，目标是让开放模型继续逼近甚至追平前沿闭源模型。
AI 与机器学习2025 · 982 分 · 465 评进阶 · 约 90 分钟编辑精选通过自我对弈与通用强化学习掌握国际象棋和将棋（AlphaZero）
Mastering Chess and Shogi by Self-Play with General Reinforcement Learning
DeepMind 的 AlphaZero 论文：用通用强化学习算法（自我博弈 + MCTS + 神经网络），从零开始仅数小时训练便在国际象棋和将棋上击败了世界顶级引擎 Stock…
AI 与机器学习2017 · 539 分 · 270 评 · 引用 13进阶 · 约 90 分钟编辑精选用强化学习发现更快的矩阵乘法算法
Discovering faster matrix multiplication algorithms with reinforcement learning
论文提出 AlphaTensor，用强化学习搜索矩阵乘法算法。
AI 与机器学习2022 · 518 分 · 111 评专业 · 约 90 分钟编辑精选