事件總覽：研究顧問機構 Gartner 近期發出重要警告，預示儘管人工智慧（AI）推論代幣的單位價格預計到 2030 年將大幅下滑，但由於 AI 應用模式的根本性轉變，企業在 AI 方面的總體支出負擔，恐將不減反增，甚至可能持續攀升。
📅 今日（30日）：Gartner 重磅示警 AI 成本結構變革
Gartner 今日發布的報告指出，市場上對 AI 發展的普遍樂觀，尤其是在成本效益方面，可能存在誤區。這份警示直接挑戰了許多企業對 AI 投資報酬率的預期，點出了一個關鍵的矛盾：單一 AI 代幣單位價格的下跌，並不直接等同於企業 AI 總成本的降低。這份報告無疑為企業在規劃未來 AI 策略時，敲響了警鐘。
📅 2025 年：大型語言模型推論費用基準點
根據 Gartner 的預測，2025 年將成為衡量大型語言模型（LLM）推論費用的一個重要基準點。在此階段，企業對於訓練與運行 LLM 的成本仍需投入不少資源，特別是對於那些擁有兆級參數的龐大模型而言。不過，這也正是技術革新醞釀的時期，為後續的成本效益飛躍奠定基礎。
📅 2030 年：AI 推論成本與效率的劃時代突破
到了 2030 年，Gartner 預計將見證 AI 推論技術的劃時代突破。一個具有一兆參數的 LLM，其推論費用相較於 2025 年將會下降超過 90%。說真的，這數字聽起來非常驚人！同時，相同規模模型的效率預計可提高達 百倍。Gartner 高級總監分析師 Will Sommer 表示，這項成本效益的提升主要歸因於半導體與基礎設施效率的改進、模型設計的創新、晶片利用率的提高，以及推論專用半導體的擴展和邊緣裝置的廣泛應用。這意味著，基礎 AI 功能將朝向幾乎零成本的方向發展，但話說回來，這並非故事的全貌。
📅 目前趨勢：AI 代理普及推升總體支出
有趣的是，儘管單位成本預期大幅下降，但目前 AI 代理（agent）的普及正在重塑企業的整體 AI 支出結構。這些 AI 代理讓 AI 應用變得更加智慧與自動化，然而，每項任務的 AI 代幣使用量已比過去增加 5 到 30 倍。這直接導致了，即使單一代幣價格下跌，總體使用量的激增仍可能讓企業的推論費用總額不減反增。分析師 Sommer 更進一步警示，企業不應將架構上的效率不足，誤解為通用代幣價格下跌就代表進階推論能力普及。若企業僅依賴便宜的代幣成本來掩蓋系統架構的缺陷，未來在代理導向的 AI 擴展階段恐將面臨發展限制，這點務必要特別留意。
至今影響與未來展望
從 Gartner 的分析來看，我們正處於一個 AI 技術快速發展但成本效益邏輯卻在重塑的關鍵時期。企業若想在未來的 AI 競爭中脫穎而出，必須重新思考其 AI 投資策略。未來的 AI 競爭力將不再單純取決於單一模型的性能，而是仰賴「多模型協作」（multi-model orchestration）策略。
Gartner 建議，企業應採行一種分層架構，將重複性且簡單的任務分配給小型或特定領域模型處理，而高成本、高效能的模型則應選擇性地僅用於複雜且高附加價值的工作。這樣一來，才能在同時實現成本效益與性能表現之間取得巧妙的平衡。這就如同一個智慧的指揮家，懂得在不同樂章中，精準運用不同樂器，才能演奏出最和諧的樂章，而非盲目地讓所有樂器都大鳴大放。