Morgan Stanley: ASIC overheating, NVIDIA's position difficult to shake

大摩表示，ASIC 在某些特定場景應用中確實表現出色，但高度依賴於特定客户的定製需求；ASIC 的開發成本通常較低，但其系統成本和軟件部署成本卻可能遠高於可大規模商用的 GPU，導致總體擁有成本更高。此外，英偉達的 CUDA 生態系統非常成熟，在全球雲服務中廣泛使用，市場地位依然堅如磐石。

過去六個月中，AI 交易的勢頭轉向了定製 ASIC，市場認為 ASIC 的增長潛力將是商用 GPU 的幾倍，受此影響，英偉達漲勢處於停滯狀態，AMD 也表現不佳。但在摩根士丹利看來，市場對 ASIC 的預期過高，長期來看，ASIC 難以撼動 GPU 的市場地位。

2 月 12 日，摩根士丹利策略分析師 Joseph Moore 及其團隊發佈報告稱，ASIC 作為一個芯片類別，不優於或劣於商用 GPU，兩者只是實現相同結果的不同方式。

大摩表示，ASIC 在某些特定場景應用中確實表現出色，但高度依賴於特定客户的定製需求；儘管 ASIC 的開發成本通常較低，但其系統成本和軟件部署成本卻可能遠高於可大規模商用的 GPU，客户可能需要花費大量時間和資源來適配軟件，導致總體擁有成本更高。

此外，英偉達的 CUDA 生態系統已經非常成熟，客户可以輕鬆部署和運行不同工作負載，這會增加總體擁有成本。大摩預測，芯片領域的現有領導者英偉達仍會保持主導地位，除非發生意外變化。

相較於商用 GPU，定製 ASIC 應用場景太窄

大摩表示，有時候是的——在針對更狹窄的應用場景時，定製 ASIC 非常具有吸引力。ASIC 是為特定的雲服務提供商或企業客户定製的芯片，能夠提供更高的性能和效率，因此具有差異化的市場競爭優勢。

比如谷歌 TPU（張量處理器）的成功——成功的原因是谷歌發明了現代 LLM 的 Transformer 技術，並指導博通開發了一款專門為此優化的芯片，這也為博通帶來了超過 80 億美元的收入。

不過，英偉達正在通過優化其 GPU 來適應 Transformer 模型，重新奪回市場份額。而且，在雲計算領域，商用 GPU 往往比 ASIC 更具競爭力。

因此，大摩認為，未來，定製化 ASIC 的優勢可能更體現在傳統工作負載上——畢竟，英偉達專注於訓練多模態 AGI（人工通用智能）模型，這一訓練能力對某些舊應用來説可能有些過剩了。

但大摩也補充道，在提供高端訓練能力方面，英偉達可能仍然難以被超越。

摩根士丹利表示，ASIC 本身比 GPU 更便宜，尤其是在硬件成本上具有一定的優勢，但其系統成本和軟件成本較高，這使得其總擁有成本（TCO）並不一定低於商用 GPU。

報告中提到，某些 ASIC 的硬件成本可能僅為 3000 美元，而英偉達的 H100 GPU 成本為 20000 美元。這種價格差異使得 ASIC 在硬件成本上顯得更具吸引力。

然而，儘管 ASIC 的硬件成本較低，但其系統成本可能遠高於通用 GPU，具體如下：

ASIC 的集羣成本可能顯著高於英偉達，因為英偉達創建了一個基於銅的 72 GPU NVLINK 域，而 ASIC 則使用了更昂貴的光學技術，其他大型成本組件也類似。

雖然高帶寬內存（HBM）的成本是相同的，但實際上，英偉達可能更具優勢，因為它在新型 HBM 上擁有壟斷性採購權，CoWoS（芯片封裝技術）也是如此。

軟件方面，英偉達的 CUDA 生態系統非常成熟，客户可以輕鬆部署和運行不同工作負載。而使用 ASIC 或其他替代方案時，客户可能需要花費大量時間和資源來適配軟件，這會增加總體擁有成本（TCO）。

例如，Trainium 的客户 Databricks 預期 “將花費數週或數月才能將系統部署上線” 。一位雲服務高管最近也告訴大摩：“每兩年，我的 ASIC 團隊交付的技術都比英偉達落後 2-3 年。從經濟角度來看，這並不那麼有用”。

因此，儘管英偉達推出瞭如 L4、L40 等低價芯片，但市場仍然傾向於選擇昂貴的高性能顯卡，因為高端顯卡在性能和生態系統支持上具有顯著優勢。

大摩總結道，許多低價處理器在初始階段可能吸引一些客户，但由於缺乏成熟的生態系統和長期支持，客户最終往往會迴歸英偉達。TPU、Trainium 和 AMD MI300 是少數例外。這並不是説更便宜的處理器沒有價值，而是説，更便宜的處理器在實際獲得的市場份額上往往不如最初預期的那樣。

英偉達的市場地位依然堅如磐石。大摩認為，英偉達在 AI 芯片市場的主導地位不僅源於其強大的技術實力，更在於其完善的生態系統和持續的研發投入。

報告指出，英偉達預計今年將在研發上投入約 160 億美元，而定製 ASIC（應用特定集成電路）芯片的開發預算通常不到 10 億美元，在某些情況下甚至更少。

憑藉這些資金，英偉達能夠保持一個 4-5 年的開發週期，並且能夠順序運行三個設計團隊，持續推出領先市場的高性能芯片。此外，英偉達在全球每個地區的每個雲平台上都佔有一席之地，任何對英偉達生態系統的投資都能在全球範圍內得到傳播，進一步鞏固了其市場霸主地位。