安全与密码学2024arxiv.org编辑精选
窃取生产环境中语言模型的一部分
Stealing Part of a Production Language Model
进阶 · 约 45 分钟读完前置知识：Transformer 基础、线性代数、模型 API 与推理基础
导读
这篇论文研究如何从生产环境中的语言模型 API 窃取部分模型参数，提出一种通过精心设计的查询恢复模型隐藏维度和部分投影层的方法。作者在闭源商业模型上验证了攻击可行性，说明即使只能访问 API，也可能提取模型的一部分，并讨论了相应防御。
HN 关注点：闭源模型的安全边界、模型权重作为商业资产的可保护性，以及把“探测模型”称为攻击是否合理。
HN 评论精选
这几条评论里：质疑 2 补充 1
质疑质疑将探测模型工作原理称为“攻击”，认为这类似自然科学探究。
这种论调背后的含义令人不安。详细探测某物以理解其工作原理，居然被视作一种“攻击”。换句话说，这几乎就是所有自然科学的研究方式。这个世界到底怎么了？
userbinator查看英文原文
The implications of this sentiment are disturbing. It is considered an "attack" to probe at something to understand how it works in detail. In other words, how basically all natural science is done. What the fuck has this world turned into?
质疑认为模型抽取不等于盗窃或版权侵权。
这不是偷窃；你只是在参考基础上训练模型，这不构成版权侵权。
h4kor查看英文原文
This isn't stealing, you are just training a model on references which isn't a copyright infringement.
补充补充说明厂商未公开关键维度且已部署部分防御。
注意：Google 没有公布 GPT-3.5 的隐藏维度，而 OpenAI 已经针对其中一些做法实施了缓解措施。
ronsor查看英文原文
Note: Google did not release the hidden dimension for GPT-3.5, and OpenAI has already implemented mitigations against some of this.
历次讨论
- 2024Hacker News 讨论帖218 分 · 51 评
同领域还值得读
如何入侵一台已关机的电脑：在 Intel ME 中运行未签名代码
How to hack a turned-off computer, or running unsigned code in Intel ME
这篇 Black Hat 2017 白皮书讨论 Intel Management Engine（ME）的安全问题：如何在 ME 中运行未签名代码，以及攻破处于关机状态的电脑的相关…
安全与密码学2017 · 543 分 · 107 评专业 · 约 40 分钟编辑精选比特币：一种点对点的电子现金系统（2008）
Bitcoin: A Peer-to-Peer Electronic Cash System (2008)
中本聪 2008 年发表的比特币白皮书，提出了无需可信第三方的点对点电子现金系统。
安全与密码学2017 · 536 分 · 394 评入门 · 约 45 分钟编辑精选GPRS 加密算法 GEA-1 的密码分析表明存在故意弱点
Cryptanalysis of GPRS Encryption Algorithms GEA-1 suggest intentional weakness
首次公开了对 GPRS 加密算法 GEA-1 和 GEA-2 的密码分析攻击。
安全与密码学2021 · 487 分 · 107 评专业 · 约 90 分钟编辑精选Signal 消息协议的形式化安全分析
A Formal Security Analysis of the Signal Messaging Protocol
用形式化方法分析 Signal 消息协议（TextSecure）的安全性：作者在多阶段密钥交换模型下，借助自动化证明工具对协议的密钥协商与 Double Ratchet 密钥更新…
安全与密码学2016 · 353 分 · 230 评专业 · 约 120 分钟编辑精选A2：模拟恶意硬件
A2: Analog Malicious Hardware
论文研究如何在芯片设计阶段植入模拟电路形式的恶意硬件后门，使其难以被常规检测发现。
安全与密码学2016 · 315 分 · 94 评专业 · 约 75 分钟编辑精选