雲端成本在各企業中正失控飆升,人工智慧工作負載造成了大部分損害。PricewaterhouseCoopers最近的調查發現,55%的公司尚未從其AI投資中看到任何實質效益,儘管它們持續向支援這些工具的雲端基礎設施投入資金。AI支出與回報之間的脫節正在製造一場財務危機,傳統的FinOps方法根本無法解決。
這不是你典型的雲端成本問題。AI工作負載與傳統應用程式根本不同——它們不可預測、資源密集,而且往往是實驗性的。雖然FinOps團隊擅長優化可預測的工作負載和合理調整執行個體大小,但AI推論成本可能毫無預警地飆升,訓練執行可能在幾小時內燒光預算。當你處理的是可能提供也可能不提供業務價值的GPU飢渴模型時,預留執行個體和使用監控的傳統操作手冊就會崩潰。
產業的回應可預見地不合時宜,供應商推出更複雜的成本管理工具,同時忽視核心問題:大多數AI專案仍然是ROI不明確的實驗性押注。公司基本上是在生產環境中進行昂貴的科學實驗,希望某些東西能成功。與此同時,雲端提供商樂於銷售更多運算資源,而企業卻在努力向CFO證明支出的合理性。
對於使用AI進行建構的團隊來說,這意味著從第一天起就要認真對待模型效率和推論優化。不要假設你可以稍後優化成本——現在就為效率而架構,測量一切,並對終止不起作用的實驗要無情。輕鬆賺錢的階段已經結束了。
