Anthropic 公布对抗「蒸馏攻击」的进展

發生什麼事

一句重点

初步证据显示，蒸馏者获取的数据减少了约 90% 到 99%。

Anthropic 在 X 上表示，过去几个月明显削弱了蒸馏攻击对 Claude 的效果（@AnthropicAI）。蒸馏攻击是指用大量虚假账号向 Claude 索取回答，再用这些输出训练自己的模型。官方文章介绍，新做法分三层：限制推理内容能被带到哪里、用两阶段分类器拦截要求输出完整推理的请求，以及对反复尝试的账号限流和封禁。官方数据是：分类器误判率低于 0.1%；蒸馏者在 Anthropic 平台上获取的推理 token 降到原来的十分之一到百分之一，已封禁数万个相关账号（Anthropic 官方文章）。官方也承认有代价：部分开发者需要更新集成方式，被拦截的请求现在也照常计费。