人工智慧公司Anthropic執行長達里奧·阿莫代（Dario Amodei）近日再度強調，開放頂尖AI模型的核心參數（即開放權重）並非如部分人士所稱，能更容易建立安全防護網。他警告，一旦這些模型的權重公開，將使營運方失去撤銷存取、修補漏洞或監控使用情況的能力，可能帶來無法彌補的危害。
開放權重的雙刃劍
達里奧·阿莫代區分了小型開放模型與頂尖系統的差異。他承認，小型開放模型在研究和競爭上確實能帶來益處。然而，他特別擔憂的是那些能力強大、一旦釋出便可能造成嚴重損害的頂尖AI系統。早在2023年，他在美國參議院作證時便指出，開放釋出先進AI模型是一條「危險的路徑」。
根據《Axios》7月22日的報導，Anthropic與OpenAI在對美國政策制定者的遊說上，立場趨於一致，共同警告中國若釋出不受安全限制的強大開放權重模型，將可能導致潛在的敵對勢力取得西方公司刻意加以防護的AI能力。
監管機構的立場
美國監管機構目前認為，沒有足夠證據證明需要對開放權重模型實施廣泛限制，同時也肯定了維持小型模型開放所帶來的競爭與研究優勢。這場開放權重與AI安全性之間的爭論，可能對去中心化人工智慧（decentralized AI）的發展產生深遠影響。
如果達里奧·阿莫代的觀點最終獲得支持，導致頂尖AI模型受到發布限制，那麼相關的監管框架可能會影響未來Web3領域的去中心化AI專案。那些在區塊鏈基礎架構上建立開源AI的專案，將可能面臨直接的監管阻力。
未來展望與影響
相反地，如果開放權重模型的倡導者勝出，且美國政府繼續保持目前的放任態度，則將印證開放存取強大技術能創造更多安全性的原則。這將對全球AI產業產生重大影響，特別是在去中心化AI和Web3領域。
達里奧·阿莫代的警告不僅是一場技術辯論，更是一場政策和道德的角力。未來的監管框架將決定AI技術的發展方向，而這將直接影響到每個人的生活。
從產業面來看，開放頂尖AI模型的核心參數可能會對整個生態系統帶來不可逆轉的影響。如果政策制定者選擇限制開放權重，這將迫使AI開發者尋找新的合作模式，以確保技術的安全和透明。話說回來，開放存取的倡導者認為，公開權重可以促進技術進步和創新。無論結果如何，這場辯論都將成為AI歷史上的重要篇章。
讀者們，你如何看待這場開放權重與AI安全性之間的爭論？歡迎在留言區分享你的看法，共同參與這場重要的技術和政策討論。
本文改寫整理自公開新聞來源，原始報導由Yahoo奇摩新聞發布。
常見問題 FAQ
為什麼 Anthropic 和 OpenAI 反對開放頂尖AI模型的權重？
因為開放頂尖AI模型的權重可能會使營運方失去撤銷存取、修補漏洞或監控使用情況的能力，帶來無法彌補的危害。
美國監管機構對開放權重模型的立場是什麼？
美國監管機構目前認為，沒有足夠證據證明需要對開放權重模型實施廣泛限制，同時肯定了維持小型模型開放所帶來的競爭與研究優勢。
開放權重模型的爭論可能對 Web3 產生哪些影響？
如果達里奧·阿莫代的觀點最終獲得支持，將可能影響未來Web3領域的去中心化AI專案，使其面臨監管阻力。相反地，如果開放權重模型的倡導者勝出，則將促進技術進步和創新。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。