根據 NVIDIA 執行長黃仁勳上週五分享的公開信，聯合多家科技公司敦促政策制定者不應過早施加限制，此舉引發了美國政府是否應對來自中國的開放權重模型（open-weights models）進行管制的熱烈討論。Anthropic 執行長阿莫迪（Dario Amodei）在 4 天後發表了一篇長文，表達自己和公司的立場。
阿莫迪在文中強調，Anthropic 並未主張禁止開放權重模型。「許多科技公司簽署了一封支持開放權重模型的公開信，甚至有人指控 Anthropic 想要禁止開放權重模型，藉此保護自身業務。」阿莫迪表示，「任何讀過我過去文章的人都應該知道，我不認為這類禁令是一項有用的措施。」他進一步澄清：「容我在此清楚聲明，以免有任何疑慮：Anthropic 從未主張禁止開放權重模型。」
開放權重模型的雙面刃
阿莫迪認為，開放權重模型的性質與中國構成的威脅不同。「那些不具備危險能力的開放權重模型，乃是一項公共財：它們除了運行所需的運算資源別無其他成本，能為各家企業、開發者及研究人員帶來價值。」然而，他同時指出，開放權重模型可能比閉源模型有更高的風險。
阿莫迪重申他在 6 個月前寫下的〈科技的青春期〉（The Adolescence of Technology）中提到的兩大擔憂：一是威權政府可能利用更強大的模型達成永久的軍事優勢或對人民進行深度鎮壓；二是強大的模型可能被濫用於網路攻擊或生物攻擊，存在嚴重的對齊問題。
三項具體因應措施
針對上述問題，阿莫迪提出了三項具體措施：
- 禁止向中國銷售先進晶片和製造設備：這是阻止中國威脅最直接、最有效的方法。
- 打擊「蒸餾」行動：蒸餾雖不能使中國獲得與美國同等的 AI 能力，但能縮小雙方差距。美國政府應有相關政策介入，嚇阻這類行為。
- 強制性安全測試：所有能力足夠強大的模型，無論開源或閉源，都應進行嚴格的安全測試，通過測試的模型才能釋出。
阿莫迪強調，公開信中的許多內容他認同，但不同意信中關於開放權重模型必然更容易開發安全措施，或者廣泛獲取能力有利於防禦者而非攻擊者的論點。他認為這些可能性恰恰相反。
數據背後的啟示
阿莫迪的立場反映了當前 AI 領域的複雜性和挑戰。一方面，開放權重模型為全球創新者提供了平等的機會；另一方面，它也帶來了安全和道德上的隱患。政策制定者和技術公司需共同合作，找到平衡點，以確保技術發展既能促進創新，又能保護公眾利益。
行動呼籲
面對中國開放權重模型的進逼，我們需要更多的公開討論和合作。讀者可以透過關注相關議題、參與公共政策討論，以及支持透明、負責任的技術公司，共同推動 AI 技術的健康發展。
本文改寫整理自公開新聞來源，原始報導由科技新報發布。
常見問題 FAQ
Anthropic 是否主張禁止開放權重模型？
否，Anthropic 執行長阿莫迪明確表示，公司從未主張禁止開放權重模型。
阿莫迪提出的三項因應措施是什麼？
阿莫迪提出的三項措施包括：禁止向中國銷售先進晶片和製造設備、打擊「蒸餾」行動、強制性安全測試。
阿莫迪如何看待公開信中的觀點？
阿莫迪認同公開信中的許多內容，但不同意信中關於開放權重模型必然更容易開發安全措施，或者廣泛獲取能力有利於防禦者而非攻擊者的論點。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。