The ceiling of Doubao, latest data on ASIC

華爾街見聞
2024.12.12 00:11
portai
I'm PortAI, I can summarize articles.

本文討論了豆包的 MAU 與 DAU 的關係,強調 DAU/MAU 比例的重要性,認為用户需求將向頭部集中,可能導致日均 token 消耗量大幅增加。同時,提到 ASIC 供應鏈的更新,預計 2025 年 Tranium 2 芯片出貨量將超過 170 萬顆,為 Marvell 帶來超過 4 億美元的營收。

上週寫了豆包,收到一些反饋。其中最重要的,就是關於 MAU 到明年 3 億的預測。實際情況是,MAU 這個數不重要,DAU 更重要,也就是 DAU/MAU 的比例更重要。假設今年年底 MAU 到了 1 億,可能 DAU 也就 1500 萬(我瞎猜的),比例才 1/6,假如明年 DAU/MAU 提高到了 1/3 呢?從實際體會也差不多,比如現在人手用 2-3 個 AI 工具,明年就算什麼都不變,也會出現市場自然集中。這在互聯網發生太多次了,團購、打車、直播,從百 X 大戰到一地雞毛,最終贏者通吃。MAU 無法體現競爭的激烈程度,DAU 才能反映最後的贏家。現在關鍵問題是:贏下來,意義大嗎?這個問題可能會反向選擇,誰會選擇用最大資源贏下來?

假如豆包明年 DAU 真到了如此高的一個數字(上面自己算)。説明不僅用户集中,用户的需求也在向頭部集中,用户的使用場景、頻次、每次調用 token 量,幾個乘數因子都會提升,意味着什麼?日均 token 消耗量就不是幾萬億/天的事情了,可能是幾十萬億 token/天。

這數什麼概念,大概就是每人每天調用幾十萬 token,或 100 萬字。我也是今天才知道這什麼概念(下圖,星球給我封了個 “碼字小超人”)。但注意這不是讓你每天要讀的 token(一般人是讀不完的...)這是為了滿足你的需求,整個推理過程消耗的 token 數量,包括且不限於:多步驟、長上下文、複雜任務、多模態等等因素。這些籠統想想,每人每天消耗幾十萬 token 不是不可能。

ASIC 供應鏈更新(from 我們星球嘉賓 AYZ):

1)2025 年 Tranium 2 芯片出貨量應該在 170+ 萬顆,將會為 Marvell 帶來$3.4+bn 的營收;Tranium 2 使用兩顆 active interposer dies,因此最近亞洲供應鏈所傳出的 400 萬顆的量很有可能是誤把 interposer dies 的數量當做了 Tranium 2 的數量(即實際顆數應除以 2)

2)從 2025 年開始 AWS 已經取消了所有 Inferentia 芯片,包括 Inferentia 2.5 以及 Inferentia 3。因此,AWS 的第三代 ASIC 芯片只會有與 Alchip 合作的 Tranium 3 這一顆,目前預計 3Q25 開始量產。根據 Alchip 在台積電預訂的 2025 年 CoWoS 產能測算可知,如果量產順利則 2025 年 Tranium 3 將會給 Alchip 帶來~$1bn 的營收。Tranium 3 全生命週期則可能為 Alchip 帶來~$4.5+bn 的營收貢獻。

3)由於 Google TPU V6e 到 V6p 的產品轉換,筆者看到 Broadcom 的 AI ASIC 營收(也就是 Google TPU)在 CY4Q24/ FY1Q25 將會出現接近 20% 的環比下滑;但該產品轉換期將非常短暫,只會持續 CY4Q24 與 CY1Q25 兩個季度,從 CY2Q25 開始隨着 Google TPU V6p 的放量將重回增長軌道。FY25 全年 Broadcom 的 AI ASIC 營收將會增長到~$13bn。

4)從供應鏈瞭解到,Google 的下一代 TPU V7 也將會有兩個版本。其中 V7p 仍然全權交給 Broadcom 負責,而 V7e 則由 Google 自己的 in-house team 負責設計 ASIC die + 台灣的聯發科負責設計 I/O die。目前 V7e 計劃從 CY3Q26 開始量產,全生命週期預計會有~200 萬顆的量將會給聯發科帶來$6+bn 的營收貢獻。

文章來源:信息平權,原文標題:《豆包的天花板、 ASIC 最新數據》

風險提示及免責條款

市場有風險,投資需謹慎。本文不構成個人投資建議,也未考慮到個別用户特殊的投資目標、財務狀況或需要。用户應考慮本文中的任何意見、觀點或結論是否符合其特定狀況。據此投資,責任自負。