上一板斧把国内模型都要干趴了,还来? Anthropic 博客发布 《加强对蒸馏攻击的防御》 总结下来就一句话:不仅把防
Geek
@geekbb
·
15 小时前
·1 次浏览
上一板斧把国内模型都要干趴了,还来?
Anthropic 博客发布 《加强对蒸馏攻击的防御》 总结下来就一句话:不仅把防线焊死了,甚至开始“抓到违规照样扣你钱”。
核心
• Anthropic 表示,新的防御策略已经把外部团队从 Claude 薅走的蒸馏数据砍掉了 90%–99%。
• 所谓“蒸馏攻击”,就是有人注册海量马甲号,流水线式地套取 Claude 的输出去喂给自家模型,等于绕过授权白嫖底层能力。
担心
• 靠蒸馏催熟的模型往往没做足安全护栏,很容易在生物、网安领域惹祸。文章直接点名智谱:说他们训 GLM-5.3 时蒸馏了美国顶尖模型的网安能力,但安全防线一捅就破。
• 怕这些白嫖来的能力被塞进别国的军事、情报和监控系统。文中还点名月之暗面,称 Kimi 曾偷偷把用户请求直接转发给 Claude。
防御
• 蒸馏最眼馋的就是模型的推理过程(思维链),所以防守核心就一件事:绝不让你轻易拿到完整思考过程。
• 光靠表面功夫防不住:早期官方试过只输出推理摘要,确实管用,对面蒸馏出的模型在 SWE-bench Verified 跑分直接从 80.4% 掉到 71.8%;但对方很快换了打法,用提示词诱导模型把思考过程逐字吐出来,还挂了几十万个黑产代理号硬刷。
新方法
• 锁死思维链:新开的 API 账号不准再篡改 Claude 之前的上下文;防止高阶模型的推理记录被安全防线较弱的旧模型读取;思考记录谁发起的就只给谁看,绝不外流。
• 实时拦截+打补丁:在主力模型(Sonnet 5.5、Opus 5/5.5、Fable 5/5.1)前面挂了类似“宪法分类器”的双层审查机制,误伤率控制在 0.1% 以内,同时靠红队测试随时堵漏洞。
• 让偷数据的人肉疼:一旦发现反复套话,直接限流、封号;最狠的是从 9 月 24 日起,在蒸馏这类低误判(<0.1%)场景下,哪怕请求被当场拦截,钱也照扣不误。
效果与代价
• 之前 9 月份报告里曝光的蒸馏套路,现在基本能被分类器一网打尽;能被薅走的推理 token 数量暴跌了 10–100 倍,有时候甚至归零;官方已经顺手封了几万个号,通常两小时内就能拉黑完毕。
• 副作用:因为上了新机制,一部分正常开发者得跟着改接口代码;分类器有极小概率(<0.1%)误伤好人,而且一旦被拦还得白交钱。
• 至于这招能管用多久也不好说,毕竟这本身就是场猫鼠游戏,而且目前还没遇上真正顶级高手的死磕。
呼吁
• 被薅羊毛是所有大模型厂商和云平台共同的痛。大家都在同一条船上,偷数据的流量散布在各种第三方中转和云平台里,别再放任不管了,Anthropic 公开方法,同行们赶紧联合起来清退灰产号吧。
Anthropic 博客发布 《加强对蒸馏攻击的防御》 总结下来就一句话:不仅把防线焊死了,甚至开始“抓到违规照样扣你钱”。
核心
• Anthropic 表示,新的防御策略已经把外部团队从 Claude 薅走的蒸馏数据砍掉了 90%–99%。
• 所谓“蒸馏攻击”,就是有人注册海量马甲号,流水线式地套取 Claude 的输出去喂给自家模型,等于绕过授权白嫖底层能力。
担心
• 靠蒸馏催熟的模型往往没做足安全护栏,很容易在生物、网安领域惹祸。文章直接点名智谱:说他们训 GLM-5.3 时蒸馏了美国顶尖模型的网安能力,但安全防线一捅就破。
• 怕这些白嫖来的能力被塞进别国的军事、情报和监控系统。文中还点名月之暗面,称 Kimi 曾偷偷把用户请求直接转发给 Claude。
防御
• 蒸馏最眼馋的就是模型的推理过程(思维链),所以防守核心就一件事:绝不让你轻易拿到完整思考过程。
• 光靠表面功夫防不住:早期官方试过只输出推理摘要,确实管用,对面蒸馏出的模型在 SWE-bench Verified 跑分直接从 80.4% 掉到 71.8%;但对方很快换了打法,用提示词诱导模型把思考过程逐字吐出来,还挂了几十万个黑产代理号硬刷。
新方法
• 锁死思维链:新开的 API 账号不准再篡改 Claude 之前的上下文;防止高阶模型的推理记录被安全防线较弱的旧模型读取;思考记录谁发起的就只给谁看,绝不外流。
• 实时拦截+打补丁:在主力模型(Sonnet 5.5、Opus 5/5.5、Fable 5/5.1)前面挂了类似“宪法分类器”的双层审查机制,误伤率控制在 0.1% 以内,同时靠红队测试随时堵漏洞。
• 让偷数据的人肉疼:一旦发现反复套话,直接限流、封号;最狠的是从 9 月 24 日起,在蒸馏这类低误判(<0.1%)场景下,哪怕请求被当场拦截,钱也照扣不误。
效果与代价
• 之前 9 月份报告里曝光的蒸馏套路,现在基本能被分类器一网打尽;能被薅走的推理 token 数量暴跌了 10–100 倍,有时候甚至归零;官方已经顺手封了几万个号,通常两小时内就能拉黑完毕。
• 副作用:因为上了新机制,一部分正常开发者得跟着改接口代码;分类器有极小概率(<0.1%)误伤好人,而且一旦被拦还得白交钱。
• 至于这招能管用多久也不好说,毕竟这本身就是场猫鼠游戏,而且目前还没遇上真正顶级高手的死磕。
呼吁
• 被薅羊毛是所有大模型厂商和云平台共同的痛。大家都在同一条船上,偷数据的流量散布在各种第三方中转和云平台里,别再放任不管了,Anthropic 公开方法,同行们赶紧联合起来清退灰产号吧。
♥ 56
↻ 4
💬 10
❝ 0
1,126 字




