Anthropic Amodei:不反對開放模型,但擔憂中國AI威脅

文章摘要

Anthropic執行長Dario Amodei澄清其公司並未主張禁用開放模型,而是擔憂「威權政府」發展出具軍事優勢或用於壓迫人民的AI,特別點名中國。他認為,除非具備危險能力,否則開放模型是公共財。Amodei主張,應限制中國獲取先進晶片,並嚴懲AI「蒸餾」技術(透過大量提示學習模型機密)的智慧財產權竊盜行為。他也支持建立全球性的AI安全模型測試機構,並認為中國可能同意此機制,以共同防範AI生物武器。此聲明回應了產業對於中國AI發展迅速的疑慮。

AI 大叔解析

【核心判斷】
這次Amodei出來澄清,是針對Anthropic被點名可能支持限制開源模型,特別是中國開源模型這件事。主要訊號是他明確表態「Anthropic從未倡導禁止開源模型」,認為未具危險能力的開源模型是公共財,只耗運算成本,對產業界、開發者、研究者都有價值。然而,他真正的擔憂在地緣政治風險,擔心集權政府(尤其點名中國)會利用AI發展「永久軍事優勢」或用於「壓迫人民」,甚至發動「生物攻擊」。他認為開源模型一旦釋出難以監管,在這類情境下會更危險。因此,限制中國取得高階晶片,並正式打擊AI模型「蒸餾」(Distillation,白話說就是學別人的AI模型),是他認為可以阻擋威脅的作法。舊的限制是晶片管制,新的討論點則聚焦在如何國際合作建立全球AI安全測試機制,甚至讓中國也參與,這項議題從單純的技術限制轉變為更複雜的全球治理與信任機制的挑戰。真正關鍵不在開源或閉源本身,而是AI技術被用來實現國家級戰略目標,這形成了新的「Governance Risk」。

【毒舌吐槽】
Amodei 這番話,表面上是幫開源模型洗白,說不是他們要禁,結果轉頭就說自己最怕集權政府拿AI搞軍事跟生物武器。這不就是「此地無銀三百兩」嗎?他嘴上說不反對開放,心裡擔憂的卻是「你拿到這些工具後會不會拿去捅我」。還提到什麼「一旦釋出就不能撤回」,這根本是廢話,程式碼跟資料一旦開放了,本來就收不回來,這是開源的基本定義,還要引用什麼英國報告,搞得像發現新大陸一樣。另外,他提議搞一個全球性的AI安全測試組織,要「整個世界,包括中國」都同意提交測試,還說這「可能真的可行」。大哥,你是不是對跨國政治角力有什麼誤解?要美國跟中國在這麼敏感的AI核心技術上達成共識、願意透明化互相揭露,這難度大概比叫台積電把最先進的製程IP開源還高,根本就是異想天開。這顯示了「Governance Risk」的問題有多深,理想很豐滿,現實卻很骨感。

【為什麼重要?】
這則新聞的重點,不在於Anthropic對開源的立場,而是揭露了AI安全與地緣政治緊張的「Ecosystem Shift」。過去大家多半聚焦在AI模型的準確度、規模或部署效率,現在連一家頂尖的AI公司CEO都公開坦言,真正的核心風險已經轉向「誰」掌握了「最頂尖」的AI能力,以及「他們會怎麼用」。Amodei提出的擔憂,無論是軍事用途還是生物武器攻擊,都暗示了未來AI發展的潛在「Latency」問題,也就是從模型被訓練出來到被惡意利用,這個時間差可能會非常短,而且影響深遠。他提到的「蒸餾」行為,雖然是技術上模型訓練的一種方式,但被官方認定為智慧財產權竊取,這對未來跨國AI研究合作與開源分享會形成巨大的信任赤字,甚至可能提高「開發成本」。因為大家在共享或開放時,會更擔心核心智慧資產被「借用」走。此外,他對全球安全測試組織的期望,雖然在工程實務上要建立統一的標準和可信的驗證機制(Verifiable Claims)很困難,但這個「Market Signal」卻透露出,業界已經開始認真考慮如何建立跨國的AI「護欄」(Guardrails),以避免潛在的巨大社會與國家安全風險,這對未來AI產業的政策制定與合規性要求,將產生長遠的影響。

【影響對象與建議】
* **AI開源社群與開發者:** 繼續推動開源,但需更重視模型安全特性與風險揭露。同時,思考如何提升防禦方能力,證明開源生態對於AI攻擊的韌性,避免被政治力過度干預而「Cost Pressure」增加。
* **晶片製造商與供應鏈業者:** 密切關注地緣政治對高階晶片出口管制的政策變化,評估未來產能與市場佈局的「Governance Risk」。可能需要為供應鏈的韌性及多元化投資更多資源。
* **各國政府與政策制定者:** 在限制AI技術發展與促進創新之間取得平衡。考慮建立國際合作機制,推動AI安全標準與測試框架,但必須務實評估跨國合作的「Execution Gap」與政治現實。

【一句話總結】
Anthropic CEO嘴上說挺開源,心裡卻怕中國拿AI搞軍武,呼籲管制晶片、打擊蒸餾,還幻想全球AI安全測試。

【逆風觀點】
Amodei強調「一旦釋出無法撤回」,但這正是開源社群所追求的去中心化韌性。若真的如他所言,集權政府透過開源模型取得軍事優勢,那是否代表現在對開源社群的監管與限制,反而可能阻礙民間力量發展出對抗這類AI威脅的能力?當政府或特定組織壟斷頂尖AI能力時,一旦失控,造成的危害可能比分散在開源社群更難以防範。

想更了解這個話題?