Anthropic 強化 Claude 防禦,成功阻擋 90% 至 99% 模型蒸餾攻擊

文章摘要

Anthropic 近期導入新防禦機制,已成功阻擋模型蒸餾攻擊(Distillation attacks)中約 90% 至 99% 的數據擷取量。蒸餾攻擊是指惡意行為者透過大規模偽造帳號,竊取 Claude 的推理過程與回應數據,藉此低成本複製高階模型的能力,如智譜 AI 開發 GLM-5.3 時便曾嘗試蒸餾 Claude,並被評為目前網路攻擊能力最強的開源權重模型。此外,此技術亦被應用於整合至外國軍事與情報監控系統,造成國家安全風險。Anthropic 採取的防禦核心,在於限制蒸餾者取得 Claude 運算推理過程(Reasoning transcripts)的存取權限。儘管這些措施已產生顯著防禦效果,但伴隨著技術權衡,包括損失部分營收、拒絕數兆 Token 的付費流量,且投入大量研發人力與時間成本。此外,部分防禦改動亦迫使合法使用者必須調整現有的系統整合方式。Anthropic 強調,此舉旨在應對模型被非法複製後,因缺乏同等嚴格的安全防護而在生物或網路安全領域造成的潛在威脅,同時呼籲模型開發者共同正視此類工業規模的技術盜竊問題。

AI 大叔解析

【核心判斷】
擋下蒸餾攻擊靠的不是魔法,而是 Anthropic 寧可少賺大筆真金白銀的代價交換。這項防禦將蒸餾者的資料擷取量壓低了 90% 至 99%,其核心手段是切斷模型推理過程(Reasoning transcripts)的外洩管道;但這項防線直接導致 Anthropic 拒絕了數兆 Token 的付費流量、損失實質營收,甚至要求正常企業用戶配合改寫系統串接方式。

【毒舌吐槽】
做 API 生意的最高境界,就是一邊看著白花花的銀子進帳,一邊發現這些幾十萬個假帳號背後全是在抄你家底的競爭對手。智譜 AI 拿 GLM-5.3 來「借鑑」程式碼與攻擊能力,逼得原廠得在自家的 Claude Opus 4.8 思考摘要上加裝層層封印;最後打贏這場防禦戰的代價,竟然是得親手把數兆 Token 的付費流水往門外推,還得回頭叫正派開發者改 Code。

【為什麼重要?】
推理過程已成為模型能力的關鍵資產。實驗數據顯示,以 Claude Opus 4.8 訓練預訓練模型時,若餵入完整推理過程,在 SWE-bench Verified 評測中可達到 achieved 80.4 的水準;但若只提供經過摘要的推理內容,分數便滑落至 achieved 71.8。這 8.6 個百分點的落差,說明了「思考過程」遠比最終答案更具複製價值。

防禦戰的升級也揭露了模型濫用的真實邊界。從智譜 AI 開發 GLM-5.3(被 CAISSI 評為目前攻擊能力最強的開源權重模型,且能端到端撰寫漏洞利用程式),到暗中將月之暗面 Kimi 請求轉發至 Claude 試圖分析特定人員 CCTV 的案例,攻擊者已透過超過 20,000 個詐欺帳號的大型代理網路進行工業級竊取。這不再只是純粹的學術研究或演算法切磋,而是直接牽扯到網路武器與國家安全層級的硬碰硬對抗。

【影響對象與建議】
- LLM API 串接架構師:全面清查現有系統對 Claude 推理欄位(Reasoning transcripts)的依賴,預先因應 Anthropic 的防護改動並調整解析邏輯,避免線上服務因驗證升級或格式變更而中斷。
- 企業資安長與合規主管:若內部評估採用如 GLM-5.3 等開源權重模型,須注意其安全防護可能已被繞過,應在本地推論管線外加掛嚴格的輸出檢查,不可依賴模型內建防護。

想更了解這個話題?