From NVIDIA to Broadcom, a "paradigm shift" in the AI industry

華爾街見聞
2024.12.16 13:42
portai
I'm PortAI, I can summarize articles.

隨着 AI 大模型從預訓練階段轉向邏輯推理階段,以 ASIC 為代表的專用芯片可能將逐步取代以 GPU 為代表的通用芯片,成為各大 AI 公司的 “新寵”。分析稱,如果博通 CEO 對 ASIC 市場的預測準確,未來三年博通 ASIC 相關的 AI 業務有望實現每年翻倍增長。

本文作者:李笑寅

來源:硬 AI

上週五晚美股市場驚現“買博通、賣英偉達”:博通(broadcom)股價大漲 27%,創下歷史最高單日漲幅,公司市值突破 1 萬億美元,同時芯片龍頭英偉達股價錄得 3.3% 的下跌。

引爆買盤的導火索來自博通 CEO Hock Tan 在當天業績會上的大膽預測:2027 年市場對定製款 AI 芯片 ASIC 的需求規模將達 600 億至 900 億美元。

有分析指出,這個數據如果實現,意味着未來三年(2025-2027 年),博通 ASIC 相關的 AI 業務將實現每年翻倍增長,這大幅提升了市場對於 ASIC 的預期,可能意味着 ASIC 有望迎來爆發期。

數據枯竭、邊際效益遞減……大模型從訓練轉向推理

作為 AI 模型的第一階段,預訓練是個不斷給模型 “喂” 數據並不斷迭代更新的過程。

為了提升模型性能,秉持着數據量、計算量和模型參數量規模越大越好(即 Scaling law)的原則,各大科技巨頭紛紛哄搶當前市面上性能最為強悍的英偉達 GPU,讓囤積的 GPU 數量給 AI 模型效用 “做擔保”。

然而,高強度、大規模的模型訓練正在 “榨乾” 全球數據庫,並且模型擴展邊際效益遞減的同時算力成本仍然高企,這引發了對 AI 訓練階段是否已經即將終結的討論。

近日,前 OpenAI 聯合創始人、SSI 創始人 Ilya Sutskever 在 NeurIPS 2024 大會上發表演講時表示,預訓練時代即將結束,數據作為 AI 的化石燃料是有限的,目前用於 AI 預訓練的數據已經達到了峯值。

OpenAI 大神 Noam Brown 也於近日回應稱,AI 從 2019 年到現在,難以置信的成就都來自於數據和算力規模的擴大,但大語言模型仍然無法解決像井字棋這樣的簡單問題。

隨之而來的問題是:Is Scaling is All you Need?我們真的還需要再消耗更高的成本來訓練更好的 AI 嗎?

外界的目光開始移至 AI 大模型的下一階段——邏輯推理。

作為大模型預訓練的下一階段,邏輯推理是指基於現有大模型,開發 AI 在各細分垂直領域的應用以實現終端落地。

從市面上的大模型產品看,包括谷歌的 Gemini 2.0、OpenAI 的 o1 等在內,AI Agent(智能體)目前已經成為了各大公司的主攻方向之一。

隨着 AI 大模型日趨成熟,有觀點認為,以 ASIC(專用集成電路)為代表的推理芯片將逐步取代以 GPU 為代表的訓練芯片,成為各大 AI 公司的 “新寵”。

而博通 CEO 對 ASIC 市場的樂觀預期在一定程度上印證了外界對 AI 範式轉向的預期,進而引發了上週五的股價暴漲。

ASIC 是什麼?比 GPU 更 “專一”

半導體大致可以分為標準半導體和專用集成電路(ASIC)。標準半導體擁有標準化規格,只要滿足基本要求,就可以應用於任何電子設備,而 ASIC 則是半導體制造商根據特定產品要求生產的半導體。

因此,ASIC 一般會被應用於特定設計和製造的設備中,執行必要的功能。

AI 運算也就由此衍生出兩條路徑:一種是英偉達 GPU 代表的通用路徑,適合通用高性能計算,另一種是 ASIC 定製芯片為代表的專用路徑。

作為標準半導體成品,GPU 在處理大規模並行計算任務時表現出色,但當處理大規模矩陣乘法時,存在內存牆問題,而經過特殊設計的 ASIC 就可以解決這個問題,一旦大規模量產,ASIC 的性價比會更高。

簡單來説就是,GPU 貴在目前產品成熟、產業鏈成熟,而 ASIC 的想象力在於更 “專一”,並且在處理單個運算任務時能實現更高的處理速度和更低的能耗,因此也更適用於推理端邊緣計算。

為科技巨頭定製 AI 芯片,成了邁威爾和博通的 “搖錢樹”

由於 GPU 產能趨緊且價格昂貴,眾多科技巨頭開始加入自研 ASIC 芯片的隊伍,僅供自家使用。

有觀點認為,谷歌是 AI ASIC 芯片的先驅,因其於 2015 年發佈第一代 TPU(ASIC)產品,同樣具有代表性 ASIC 芯片還包括亞馬遜的 Tranium 和 Inferentia、微軟的 Maia、Meta 的 MTIA 以及特斯拉的 Dojo 等。

在自研 AI 芯片的上游供應鏈上,邁威爾和博通是常年稱霸的兩大製造商。

邁威爾的崛起離不開其新領導層的成功戰略。彷彿早有預見般,該公司 CEO Matt Murphy 自 2016 年上任以來,趁公司重組之際將公司戰略重心轉向為科技巨頭定製芯片,成功在 AI 大潮中抓住了機遇。

除了谷歌和微軟兩個大客户,邁威爾還在近期與亞馬遜 AWS 簽訂了為期 5 年的合作協議,幫助亞馬遜設計自有 AI 芯片。業內人士認為,這將助推邁威爾 AI 定製芯片業務在下一財年實現翻倍增長。

作為邁威爾的主要競爭對手,博通同樣擁有谷歌、Meta 和字節三家大客户。

有分析預計,到 2027-2028 年,每家客户都會達到 1 年百萬片 ASIC 的採購規模,隨着第四和第五大客户也開始快速爬升,這些科技公司的芯片訂製訂單將在未來幾年給博通帶來十分可觀的 AI 收入。

隨着 AI 大模型進入 “下半場”,真正的推理端剛剛開始,關於芯片的又一場鏖戰即將打響。正如博通的 CEO Hock Tan 此前所預言:

“未來 50% 的 AI Flops(算力)都會是 ASIC,甚至 CSP(超大規模雲計算產商)內部自用 100% 都將是 ASIC”。