Reducing reliance on NVIDIA, ByteDance reportedly partners with Taiwan Semiconductor to independently develop 5nm AI chips, set to mass produce by 2026

華爾街見聞
2024.09.17 18:18
portai
I'm PortAI, I can summarize articles.

媒體稱,今年字節跳動已訂購價值超 20 億美元的 20 餘萬塊英偉達 H20 芯片,還計劃讓台積電代工數十萬快自研芯片,成本將比從英偉達購買低數十億美元;字節希望,大致相同成本下,自有芯片集羣實現四倍於單個 H100 芯片的計算性能。

本文作者:李丹

來源:硬 AI

人工智能(AI)領域的競爭如火如荼,提供大語言模型(LLM)算力的英偉達 AI 芯片又供不應求,字節跳動可能要推出自己的芯片,減少對英偉達產品的依賴。

據科技媒體 The Information 報道援引知情者消息稱,字節跳動在同英偉達高級芯片的重要代工夥伴台積電合作,計劃到 2026 年聯產兩款基於 5 納米(nm)工藝的自研 AI 芯片,目前處於設計階段,未來字節的計劃還可能有變。

報道稱,5nam 工藝僅比台積電最先進的 3nm 工藝落後一代,和英偉達將要出貨的旗艦 AI 芯片——Blackwell 架構芯片採用的是同一代工藝。自家芯片可能減少字節跳動在開發和運營 AI 模型方面對高價英偉達芯片的依賴。

在國內競爭激烈且美國加強出口限制之際,對字節跳動等推出 LLM 的中國科技企業來説,降低芯片成本變得至關重要。報道提到,今年字節跳動已訂購了 20 餘萬塊英偉達 H20 芯片,價值超過 20 億美元,還在等待全部交貨。字節計劃讓台積電代工數十萬快自研的訓練和推理芯片,成本將比從英偉達購買低數十億美元。

至於為何字節跳動可能如此大幅降低成本,報道指出,H20 的性能只有英偉達熱銷先進芯片 H100 的四分之一。美國目前的出口限制針對單個芯片的性能,但未這樣限制芯片集羣,國內廠商需要購買更多的 H20 達到和 H100 同等算力的單個集羣效果。字節跳動希望,在成本大致相同的情況下,自有芯片驅動的集羣能實現四倍於單個 H100 芯片的計算性能。

字節跳動和英偉達都未回應以上報道。此前消息顯示,包括字節在內的中國互聯網大廠今年都在大手筆訂購英偉達的芯片,同時積極開發自研 AI 芯片。

上月金融時報報道稱,百度、字節跳動、騰訊和阿里巴巴已向英偉達共訂購價值 10 億美元的 A800 處理器,這些中國企業還購買了價值 40 億美元的 GPU,均將今年交付。在社交媒體 X 有評論援引該報道稱,今年英偉達將向中國出售 100 萬塊 AI 芯片,字節是大客户之一。以每塊 H20 芯片單價 1.2 萬美元計算,僅中國市場就將給英偉達貢獻 120 億美元的 AI 產品收入。而英偉達 2020 年的年收入也不過 110 億美元。

字節跳動的發言人此後並未詳細置評上述報道,而是表示:“消費互聯網公司和雲供應商每年在數據中心組件上投資數十億美元,通常提前數月下訂單。”

今年 6 月路透獲悉,字節跳動在同博通合作開發 5nm 的先進 AI 芯片,它是一款 ASIC 芯片,由台積電代工,符合美國的出口限制。當時路透報道稱,博通至少 2022 年就是字節的商業合作伙伴,曾公開表示字節購買其 5nm 高性能交換機芯片以及用於 AI 計算機集羣的 Bailly 交換機。字節和博通的開發芯片合作將有助於降低採購產品,並保證高端芯片的穩定供應。

本週的 The Information 報道還提到,百度在開發的新一代 AI 芯片崑崙芯 3 代目前處於設計階段的最後階段,即將在台積電開始生產。