Server power consumption soars threefold! Is AI's final battle about not just computing power, but also electricity?

算力、能耗雙雙發出警報。

算力是 AI 世界發展的基礎，而算力的瓶頸歸根到底還是電力，ChatGPT 等 AI 大模型訓練起來到底多費電？

7 月 15 日，根據 Digital Information World 發佈的最新報告，數據中心為訓練 AI 模型產生的能耗將為常規雲工作的三倍，預計到 2030 年，美國數據中心的電力需求將以每年約 10% 的速度增長。

數據顯示，OpenAI 訓練 GPT-3 耗電為 1.287 吉瓦時，大約相當於 120 個美國家庭 1 年的用電量。而這僅僅是訓練 AI 模型的前期電力，僅佔模型實際使用時所消耗電力的 40%。

2023 年 1 月，OpenAI 僅一個月已耗用可能等同 17.5 萬個丹麥家庭的全年用電量。谷歌 AI 每年耗電量達 2.3 太瓦時，相當於亞特蘭大所有家庭 1 年用電量。

據瞭解，AI 服務器的功率較普通服務器高 6-8 倍，這對於電源的需求也將同步提升，通用型服務器原來只需要 2 顆 800W 服務器電源，而 AI 服務器的需求直接提升為 4 顆 1800W 高功率電源，服務器能耗成本直接 3100 元直接飆升到 12400 元，大漲 3 倍。

數據中心客户為此支付的電費也更為高昂。市場研究公司 Synergy Research Group 的首席分析師 John Dinsdale 坦言，數據中心運營商正將運行AI應用程序產生的額外成本直接轉嫁到客户身上。

一些數據中心的運營商們趁機提高商業租賃價格，以應對為運行日益能源密集型工作負載的計算機服務器組羣（stack）供電和散熱而產生的額外成本。

據全球最大商業房地產服務公司之一的世邦魏理仕（CBRE Group）統計，數據中心客户囊括了小型企業到大型雲服務供應商，目前消耗電力的速度快於數據中心運營商擴展容量的速度。由於人工智能用例的增加，供應限制日益嚴重，這為數據中心收取的價格帶來了上行壓力。

在強大的電力需求下，據世邦魏理仕統計，今年前三個月，美國北弗吉尼亞州的數據中心客户每月每千瓦電力支付的費用高達 140 美元，比一年前的 130 美元增長了 7.7%。

“吃電” 的大模型

據諮詢機構 Tirias Research 建模預測，到 2028 年數據中心功耗將接近 4250 兆瓦，比 2023 年增加 212 倍，數據中心基礎設施加上運營成本總額或超 760 億美元。

這堪稱 “生成式 AI 顛覆數據中心”，其增長對新興服務（例如搜索、內容創建和結合生成式 AI 的業務自動化）的商業模式和盈利能力都提出了挑戰，成本更是亞馬遜 AWS 年運營成本的兩倍多。

該機構稱，生成式 AI 帶來的種種創新功能，都是以處理性能和功耗方面的高昂成本為代價。因此，雖然人工智能的潛力可能是無限的，但物理和成本最終可能是界限。

為了降低成本，該機構建議，可使用高度優化、甚至是更簡單、更專業的小型神經網絡模型來降低數據中心成本，方法是減少雲端的模型規模，將海量參數網絡用於快速訓練較小的模型，並將工作負載完全移出雲端，從而將生成式 AI 應用程序更加經濟高效地分發給智能手機、PC、車輛和移動 XR 產品等分佈式平台上運行：

“五年前，各公司在年度 Hot Chips 半導體技術會議上開始對數據中心功耗敲響警鐘，當時預測全球計算需求可能在十年內超過全球發電總量。那還是在生成式 AI 迅速採用之前，而生成式 AI 有可能以更快的速度增加計算需求。

天下沒有免費的午餐——消費者會要求更好的生成式 AI 輸出，而這將抵消效率和性能的提升。隨着消費者使用量的增加，成本將不可避免地攀升。將計算轉移到邊緣，並將其分配給 PC、智能手機和 XR 設備等客户端是降低資本和運營成本的關鍵途徑。”

如今全球範圍內羣模大戰，需要消耗的能源和產生的碳排放體量之巨大，可以想見。

按照當前的技術路線和發展模式，AI 進步將引發兩個問題：一方面，數據中心的規模將會越來越龐大，其功耗也隨之水漲船高，且運行越來越緩慢。

另一方面，AI 芯片朝高算力、高集成方向演進，依靠製程工藝來支撐峯值算力的增長，製程越來越先進，其功耗和水耗也越來越大。並且，受摩爾定律約束，傳統計算能力已接近極限，面臨馮·諾依曼架構瓶頸、物理微縮的挑戰。

這兩個問題都將導致 AI 能耗問題愈加嚴重。

打響電力爭奪戰

龐大的電力需求無疑將進一步對數字基礎設施造成壓力，現有的數據中心已無法滿足 AI 日益增長的電力需求。

去年，位於北弗吉尼亞的數據中心一度面臨停電危機，能源問題迫在眉睫。

為了解決 AI 能耗日益上漲的問題，數字基礎設施公司 DigitalBridge 正計劃投入數十億美元建設並翻新用於生成式 AI 工作負載的數據中心。

Digital Information World 認為，下一代數據中心將比當前弗吉尼亞及聖克拉拉市的數據中心配套設施更加全面。選址應當位於電力供應不成問題的低成本地區，為了滿足 AI 的算力需求，數據中心運營商必須適應並採用新穎的解決方案。

隨着爭奪 AI 軍備競賽日趨白熱化，對電力的爭奪變得越來越重要。

“生成式AI顛覆數據中心”，電力需求對各大公司的商業模式和盈利能力都提出了挑戰。生成式 AI 帶來的種種創新，都是以處理性能和功耗方面的高昂成本為代價。

因此，雖然人工智能的潛力可能是無限的，但物理和成本最終可能是界限。各大科技公司們正在嘗試一切可能的策略來確保電力需求，為變革性的能源未來奠定基礎。