Anthropic 公布對抗「蒸餾攻擊」的進展

發生什麼事

Anthropic 在 X 上表示，過去幾個月明顯降低了蒸餾攻擊對 Claude 的效果（@AnthropicAI）。蒸餾攻擊是用大量假帳號向 Claude 要回答，再拿這些輸出訓練自己的模型。官方文章表示，新做法有三層：限制推理內容能被帶到哪裡、用兩段式分類器擋下要求吐出完整推理的請求，以及對一再嘗試的帳號限流和停權。官方數字是：分類器誤判率低於 0.1%；蒸餾者在 Anthropic 平台上取得的推理 token 降到原本的十分之一到百分之一，已停權數萬個相關帳號（Anthropic 官方文章）。官方也承認有代價：部分開發者得更新整合方式，被擋下的請求現在也照樣收費。