根據 Business Insider 取得的文件顯示,亞馬遜正在積極調整 Alexa+ 的 AI 架構,以降低營運成本。文件時間範圍為去年底到今年初,亞馬遜開始減少對 Anthropic Claude 模型的依賴,轉而使用自家模型處理請求,並通過快取和更「確定」的回應機制,減少不必要的推理運算。
數據發現:Alexa+ 效率提升 50%,回應時間縮短 40%
亞馬遜的規劃預估,通過這些軟件調整,Alexa+ 的可用運算容量可以提升約 50%,回應時間縮短約 40%。這意味著在不大幅增加硬件的情況下,亞馬遜可以以同樣的算力處理更多的客戶請求。然而,文件也顯示,Alexa+ 的 AWS 雲端成本今年可能達到約 17 億美元,幾乎是前一年的三倍,且比亞馬遜設定的每月活躍用戶雲端成本目標高出約 60%。
「即使已找到約 4.5 億美元的潛在節省空間,亞馬遜仍認為很難達成財務目標。」
產業影響:從「模型更聰明」轉向「模型更便宜」
文件還顯示,亞馬遜正在縮小 Claude 模型在 Alexa+ 中的使用範圍,將部分專門的 Alexa「Experts」從 Claude Sonnet 轉至自家模型。在適合的情況下,亞馬遜將直接使用快取回應,不再呼叫 Claude。這反映出 AI 產業的競爭焦點已經從「模型更聰明」轉向「模型更便宜」。亞馬遜也在評估 Nvidia GPU 與自家 Trainium 晶片哪個是更低成本的運算方案。
「美國擴大上線後,亞馬遜面臨的算力與支出壓力也同步升高,甚至考慮延後部分最昂貴的 AI 計畫,包括 Alexa 進階代理核心的 Project Moonraker。」
數據背後的啟示
亞馬遜的這次調整不僅反映了公司在 AI 技術上的創新能力,更揭示了 AI 產業面臨的成本挑戰。隨著 AI 模型變得越來越複雜,運算成本也隨之上升,這對於任何希望在 AI 領域保持競爭力的公司來說都是不容忽視的問題。
從產業面來看,亞馬遜的這次調整可能是整個 AI 行業的一個風向標,未來我們可能會看到更多公司採用類似的策略,以降低成本並提高效率。
亞馬遜的這次調整對其他科技巨頭有何啟示?你是否看好這種策略的長期效果?歡迎在留言區分享你的看法。
本文改寫整理自公開新聞來源,原始報導由科技新報發布。
常見問題 FAQ
亞馬遜為什麼要調整 Alexa+ 的 AI 架構?
亞馬遜調整 Alexa+ 的 AI 架構主要是為了降低營運成本,提高運算效率。
調整後的 Alexa+ 有哪些改善?
調整後的 Alexa+ 預計可用運算容量提升約 50%,回應時間縮短約 40%。
亞馬遜如何實現這些改善?
亞馬遜通過減少對 Anthropic Claude 模型的依賴,轉而使用自家模型處理請求,並通過快取和更「確定」的回應機制,減少不必要的推理運算。
※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。