Track Hyper | Micron GDDR7 Sample: Three giants open a new battlefield competition

華爾街見聞
2024.06.10 02:39
portai
I'm PortAI, I can summarize articles.

竟然有個新玩家,是誰?

作者:周源/華爾街見聞

最近,英偉達聯合創始人兼 CEO 黃仁勳在台北 Computex 2024 展更新了 AI GPU 技術路線圖,同時黃仁勳還澄清了三星電子 HBM(高帶寬存儲器:High Bandwidth Memory)並沒有因為過熱問題而沒有通過英偉達質量測試。此事意味着三星電子的 HBM3e(第五代)將很快進入英偉達 AI 加速卡供應鏈。

黃仁勳説,“我們需要 HBM 數量非常大,因此供應速度至關重要。我們正在與三星、SK 海力士和美光合作,我們將收到這三家公司的產品。“

之前有消息稱,SK 海力士和美光的 HBM 產能已排到 2025 年底,一方面説明英偉達需要的 HBM 產能確實夠多;另一方面,也在側面説明 HBM 產能問題會成為英偉達 AI 加速卡出貨量的障礙。

從 HBM 的技術演進史可以看到,HBM 原本作為 GDDR 的替代品。HBM 技術迭代很快,性能越來越強,但成本也越來越高。

實際上,GDDR 如今也已非昔日吳下阿蒙:今年 3 月 6 日,固態技術協會(JEDEC)確定了 JESD239 GDDR7 顯卡技術規範標準,性能較 GDDR 有巨幅提升,已有跡象顯示出 GDDR7 的部分性能正在跨越 To C 消費級範疇,邁向 To B 的 HPC(高性能計算)領域。故而,GDDR7 也開始有了彌補高成本 HBM 缺陷的實力。

新戰場:GDDR7 來了

6 月 4 日,美光宣佈開始為下一代 GPU 提供 GDDR7 內存樣品:有 28GB/s 和 32GB/s 兩種速率。其中,32GB/s GDDR7 提供的內存帶寬比 GDDR6 高出 60%;在 384 位總線上,內存帶寬能達到 1.5TB/s。GDDR6 在 RTX 4090 等 GPU 最高帶寬為 1TB/s。

美光 GDDR7 採用其 1β (1-beta) DRAM 技術製造。在最新路線圖中,美光公佈了到 2026 年,達到 36GB 和 24GB+ 的內存模塊;三星電子的目標是實現 32GB 的速率,但沒有公佈中期速率目標。

今年 3 月,三星電子和 SK 海力士在英偉達 GTC 大會上也披露了各自的 GDDR7 技術參數。現在,三家主流供應商等於又開闢了一個新戰場:GDDR7。

按照不同應用場景劃分,JEDEC 將 DRAM 分成標準 DDR、LPDDR 和 GDDR 三類。其中,DDR 主要應用於服務器和 PC 端(桌面),LPDDR 主要應用於手機端和 PC(筆電),GDDR 的主要應用領域為圖像處理領域。

在 DARM 產業格局方面,三星、SK 海力士和美光三足鼎立。當前代際 DDR5/LPDDR5 主流市場的主要競爭由這三家展開。此外,中國台灣存儲企業華邦及南亞科技,中國大陸存儲企業長鑫存儲也將目光聚焦在這塊市場。

什麼是 GDDR?

GDDR,英文全稱 Graphics Double Data Rate:雙圖像倍數據速率。這是一種專為圖形處理單元(GPU)設計的同步雙數據速率動態隨機存取存儲器(SDRAM)。

1998 年,三星電子推出業界首款 16 Mb GDDR 內存芯片。自此,GPU 和 CPU 內存開始有了各自獨立的技術路線和產品。最初,GPU 顯卡內存和 CPU 內存可以通用。1998 年之後,GPU 開始有專用顯存——GDDR。

3 月 6 日,JEDEC 發佈 JESD239 GDDR7 顯卡技術規範,旨在提供更高帶寬、更高數據傳輸速率、更高能效和更大存儲容量,以支持未來高性能計算應用的發展。

目前,市場首批 GDDR7 顯存容量僅 2GB(16Gb),與 GDDR6/6X 一致。JEDEC 表示,未來會有 3GB、4GB、6GB 甚至 8GB。首發搭載 GDDR7 的是英偉達 RTX 50 系列和 AMD RX 8000 系列。

據 JEDEC 披露,JESD239 GDDR7 是首款使用脈衝幅度調製(PAM)接口作高頻操作的 JEDEC 標準 DRAM。

GDDR7 的帶寬是 GDDR6 的兩倍:即 192GB/s。這通過了增加獨立通道數量至 4 個實現。GDDR7 也支持 16Gbit 至 32Gbit 的密度,包括支持雙通道模式,可實現系統容量的翻倍,孤兒能滿足未來圖形、遊戲、計算、網絡和人工智能應用對高內存帶寬不斷增長的需求。

與 HBM 通常用於超算(高性能計算:HPC)中心 AI 算力集羣不同,GDDR 主要用於遊戲、專業圖形設計/渲染、科學和工程模擬、虛擬現實、可視化應用(消費級)和 AI 邊緣計算的 ML(機器學習)。

下半年三巨頭角逐

美光 GDDR7 內存樣品的工作電壓為 1.2V(前代 GDDR6 工作電壓為 1.35V),與 JEDEC 的 GDDR7 技術規範吻合;工作效率相比前代提升 50%。之所以能實現這一點,主要是因為美光采用了分割電壓平面、部分設備運行和休眠模式。

此外,美光還採用 FBGA 更薄的封裝高度(1.1mm 對比 1.2mm)和高熱導 EMC 封裝,故而達成了 65% 更高的熱阻,這為台式機和筆電提供了更高效的熱管理。

這些特性,除了更進一步提升美光 GDDR7 在 GDDR 傳統應用領域的性能,另外在生成式 AI 和 HPC 等需要更高性能帶寬的尖端領域,也有了廣闊前景。這就意味着,GDDR7 突破了以往的性能瓶頸,開始有了能與低端 HBM 相媲美的性能表現。

這讓 GDDR 有能力實現破圈:從 To C 的消費級 GPU 應用,邁向 To B 的企業級高性能市場。

據美光官方信息,在遊戲領域,美光的 GDDR7 樣品預計每秒幀數(FPS)提升幅度超過 30%,特別是光線追蹤和光柵化工作負載。

生成式 AI 方面,美光 GDDR7 提供超過 1.5TB/s 的高系統帶寬,預計可將生成式 AI 文本到圖像生成的響應時間加快 20%;在 HPC,GDDR7 預計能減少更多處理時間,實現複雜工作負載(如動畫、3D 設計、科學仿真和金融建模)的無縫多任務處理。

當然,GDDR7 性能提升幅度雖然相比 GDDR6 更高,但依然無法與 HBM3/3e 相比,更遑論 HBM4,但 GDDR7 提升後的整體性能,與 HBM2 或許可以等量齊觀。

三星電子在 3 月的英偉達 GTC 大會上也披露了其 GDDR7 的部分技術參數,比如三星 GDDR7 能在僅 1.1V 的 DRAM 電壓下實現 32 Gbps 的速度(與 GDDR6X 相比提升 33%),超過了 JEDEC 的 GDDR7 技術規範的 1.2V 電壓標準。這項性能主要是通過首次應用 PAM3 信號實現的。

同時,三星 GDDR7 能實現最高 192GB/s 的顯存速度,單顆顯存容量 2GB;通過加持三星電子特有的其他電源管理創新,三星 GDDR7 能效提高幅度提升了 20%,發熱量(熱阻)減少 70%,待機功耗降低 50%。

作為存儲三巨頭之一,SK 海力士自然也不會缺席。海力士 GDDR7 最大帶寬達到 160GB/s,是其上一代產品(GDDR6 位 80GB/s)的兩倍,功耗效率提升 40%;內存密度提升 1.5 倍,故而視覺效果也進一步得到增強。

目前,海力士 16Gb GDDR7 預計將在今年三四季度實現批量出貨,三星也在出樣品的過程中;美光 GDDR7 內存將於今年下半年發售。意外的是 AMD,據美光透露,AMD 也會加入 GDDR7 市場角逐。