Guo Mingchi: NVIDIA's next-generation AI chip R100 is expected to start mass production in the fourth quarter of next year, using TSMC's N3 process

華爾街見聞
2024.05.08 12:05
portai
I'm PortAI, I can summarize articles.

郭明錤指出,R100 將採用台積電的 N3 製程與 CoWoS-L 封裝,預計將搭配 8 顆 HBM4,耗能改善也是設計重點。

本文作者:趙穎

本文來源:硬 AI

5 月 8 日,天風國際證券分析師郭明錤發佈預測更新指出,英偉達下一代 AI 芯片 R 系列/R100 AI 芯片或將在 2025 第四季度量產,系統/機架解決方案預計將在 2026 年上半年量產。

郭明錤指出,R100 將採用台積電的 N3 製程與 CoWoS-L 封裝,預計將搭配 8 顆 HBM4。

相比之下,英偉達 3 月新發布的 “最強 AI 芯片”B100 採用 N4P 製程工藝,封裝同樣採用 CoWoS-L 封裝。B100 標誌着在短短 8 年內,Nvidia AI 芯片的計算能力實現了提升 1000 倍。

而 GR200 集成系統的 Grace CPU 將採用台積電的 N3 工藝,GH200 和 GB200 的 Grace CPU 採用台積電的 N5 工藝。

此外,R100 採用約 4 倍 reticle 設計(B100 為 3.3x),R100 的中介層(Interposer)尺寸尚未最終確定,有 2-3 種選擇。

值得一提的是,耗能改善也為設計重點,郭明錤表示:

英偉達已理解到人工智能服務器的功耗能已成為客户採購和數據中心建設的難題,因此 R 系列的芯片與系統方案,除提升 AI 算力外,還注重改善功耗。

在上一代芯片設計中,與 H100 相比,GB200 的成本和能耗降低了 25 倍,黃仁勳表示,此前訓練一個 1.8 萬億參數模型,需要 8000 個 Hopper GPU 並消耗 15 MW 電力。但如今,2000 個 Blackwell GPU 就可以實現這一目標,耗電量僅為 4MW。