AI 与机器学习2024storage.googleapis.com
Google CodeGemma:基于 Gemma 的开放代码模型
Google CodeGemma: Open Code Models Based on Gemma
入门 · 约 30 分钟读完前置知识:大语言模型基础、代码补全/代码助手使用经验
导读
Google 发布 CodeGemma,这是基于 Gemma 开放模型构建的开放代码模型(提供 2B/7B 等规模),技术报告以 PDF 形式公开。评论主要围绕模型权重的下载渠道、本地运行体验以及微调加速工具展开,未涉及论文具体实验结论。
HN 关注点:能否在本地跑这些开放代码模型、如何接入编辑器工作流,以及小模型(如 2B)的实际表现。
HN 评论精选
这几条评论里:支持 1 质疑 1 补充 1 亲历 1
质疑希望有编辑器工具支持本地代码模型,质疑 Cursor 不支持本地模型
很遗憾 Cursor 目前还不支持本地模型(据我所知它们会从自己的服务器抓取你提供的 URL)。有没有支持本地模型的 VS Code 插件或其他编辑器?像 CodeGemma 和 Command-R+ 这样的模型,本地运行越来越有意义了。
tosh查看英文原文
It's really sad that Cursor does not support local models yet (afaiu they fetch the URL you provide from their server). Is there a VS Code plugin or other editor that does? With models like CodeGemma and Command-R+ it makes more and more sense to run them locally.
补充核心痛点是代码助手如何高效引入整个代码库的上下文
我目前对各类代码助手的困扰不在于质量,而在于它们能否在不烧钱、也不塞入过多信息导致中间内容被忽略的前提下,从代码库其余部分引入上下文。现在有系统在这方面做得好吗?
kolbe查看英文原文
My issue so far with the various code assistants isn't the quality necessarily, but the ability of them to draw in context from the rest of the code base without breaking the bank or proving so much info that the middle gets ignored. Are there any systems doing that well these days?
支持提供权重下载链接,并称赞 Gemma 2B 小模型在本地的高性价比表现
模型权重(PyTorch、GGUF)可在这里下载:https://huggingface.co/collections/google/codegemma-release-66152ac7b683e2667abdee11。我很喜欢 Gemma 系列,2B 和 7B 的非代码版本令人印象深刻,尤其 2B 表现很强,质量不输一些老的 7B 模型,在 Apple Silicon 上即使 8bit 量化也跑得飞快。
sheepscreek查看英文原文
Download the model weights here (PyTorch, GGUF): https://huggingface.co/collections/google/codegemma-release-66152ac7b683e2667abdee11 I am really liking the Gemma line of models. Thoroughly impressed with the 2B and 7B non-code optimized variants. The 2B especially packs a lot of punch. I reckon its quality must be at par with some older 7B models, and it runs blazing fast on Apple Silicon - even at 8 bit quantization.
亲历分享微调加速工具,显著降低 CodeGemma 7b 的显存与速度开销
我用 Unsloth 把 CodeGemma 7b 提速 2.4 倍、显存占用降低 68%,想微调的话可以用我做的 Tesla T4 Colab 笔记本(含 ChatML):https://colab.research.google.com/drive/19lwcRk_ZQ_ZtX-qzFP3qZBBHZNcMD1hh
danielhanchen查看英文原文
Made Code Gemma 7b 2.4x faster and use 68% less VRAM with Unsloth if anyone wants to finetune it! :) Have a Tesla T4 Colab notebook with ChatML: https://colab.research.google.com/drive/19lwcRk_ZQ_ZtX-qzFP3qZBBHZNcMD1hh?usp=sharing
相关资源
从这篇论文所有 HN 讨论帖的全部评论里整理出来的链接。
历次讨论
- 2024Hacker News 讨论帖162 分 · 26 评
同领域还值得读
DeepSeek-R1:通过强化学习激励 LLM 的推理能力
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via RL
研究如何用强化学习激励大语言模型的推理能力,提出 DeepSeek-R1,并探讨 RL 训练对模型推理表现的影响。
AI 与机器学习2025 · 1,351 分 · 1,056 评 · 引用 30进阶 · 约 80 分钟编辑精选1-bit LLM 时代:面向低成本计算的三值参数
The Era of 1-bit LLMs: ternary parameters for cost-effective computing
提出用三值参数 {-1, 0, 1} 替代 LLM 中的浮点权重,即所谓“1-bit LLM”。
AI 与机器学习2024 · 1,040 分 · 447 评 · 引用 19进阶 · 约 45 分钟编辑精选DeepSeek-V3.2:推进开放大语言模型的前沿
DeepSeek-v3.2: Pushing the frontier of open large language models
这是 DeepSeek-V3.2 的技术报告,延续了 DeepSeek 开源权重模型的路线,目标是让开放模型继续逼近甚至追平前沿闭源模型。
AI 与机器学习2025 · 982 分 · 465 评进阶 · 约 90 分钟编辑精选通过自我对弈与通用强化学习掌握国际象棋和将棋(AlphaZero)
Mastering Chess and Shogi by Self-Play with General Reinforcement Learning
DeepMind 的 AlphaZero 论文:用通用强化学习算法(自我博弈 + MCTS + 神经网络),从零开始仅数小时训练便在国际象棋和将棋上击败了世界顶级引擎 Stock…
AI 与机器学习2017 · 539 分 · 270 评 · 引用 13进阶 · 约 90 分钟编辑精选用强化学习发现更快的矩阵乘法算法
Discovering faster matrix multiplication algorithms with reinforcement learning
论文提出 AlphaTensor,用强化学习搜索矩阵乘法算法。
AI 与机器学习2022 · 518 分 · 111 评专业 · 约 90 分钟编辑精选