Developing Ethernet! NVIDIA is very serious

華爾街見聞
2024.06.04 07:59
portai
I'm PortAI, I can summarize articles.

英偉達正在全力推動以太網技術的發展,推出了 Spectrum-X 以太網平台,提升 AI 網絡性能。其銷售額大幅增長,成為數據中心新寵,預計將在一年內成為數十億美元產品線。

近日,在台灣的 Computex 展會上,英偉達首席執行官黃仁勳詳細介紹了 Spectrum-X 平台的創新。

傳統以太網因速度慢、數據易丟失等問題,一直被認為不適合使用在人工智能中。

Spectrum-X 是世界上首個專為人工智能工作負載打造的以太網架構,相比傳統以太網,它能夠將生成式 AI 網絡性能提高 1.6 倍。該平台整合了 Nvidia Spectrum X 以太網交換機和 Nvidia BlueField-3 超級網卡,以解決傳統以太網在 AI 應用中的瓶頸。

黃仁勳指出,傳統以太網設計注重高平均吞吐量,但在深度學習和人工智能用例中,GPU 主要相互通信,需求有所不同。Spectrum-X 架構集成了先進的網絡級遠程直接內存訪問(RDMA)和增強的擁塞控制功能,顯著提高性能並避免熱點問題。自適應路由和噪聲隔離技術進一步優化了以太網的數據傳輸效率和可靠性。

近年來,英偉達在人工智能領域的進展令人矚目。

自 2019 年以 69 億美元收購 Mellanox 以來,英偉達一直在推動其 Infiniband 技術的發展。Infiniband 是一個用於高性能計算的計算機網絡通信標準,具有極高的吞吐量和極低的延遲,用於計算機與計算機之間的數據互連。在生成式人工智能時代,它已經被大量應用於雲廠商的數據中心。

然而,並不是每個數據中心都能處理 Infiniband,以太網仍然是大多數數據中心的默認設置。因此,對傳統以太網的需求仍然存在且不會改變。

為此,Nvidia 推出了 Spectrum-X 以太網平台,幫助解決傳統以太網在 AI 用例中的缺點,在人工智能網絡中實現以太網的突破性發展。

市場需求也促使英偉達在以太網上投入更多資源:根據英偉達公佈的 2025 財年第一季度財報,數據中心部門的銷售額大幅增長,達到 225.6 億美元,同比增長 5.3 倍。然而,Infiniband 產品的供應未能滿足需求,導致網絡業務收入增長相對緩慢。相比之下,Spectrum-X 以太網產品被超大規模企業和雲構建者廣泛採用,成為數據中心的新寵。

首席財務官 Collette Kress 表示,Spectrum-X 的銷量不斷增長,客户包括擁有 10 萬個 GPU 的大型集羣。預計 Spectrum-X 將在一年內成為數十億美元的產品線,推動英偉達在以太網市場的進一步擴展。

儘管以太網的發展可能對 Infiniband 銷售產生蠶食效應,但 Nvidia 正在積極應對這一挑戰。

黃仁勳在電話會議中強調,英偉達致力於推動三大計算結構的發展:NVLink 計算結構、Infiniband 計算結構和以太網計算結構。新一代的 CPU、GPU、網絡 NIC 和交換機即將推出,所有這些都將運行英偉達的 CUDA 軟件堆棧。

黃仁勳表示:“我們將以非常快的速度推動這三個環節的發展。您將看到新的交換機、新的 NIC、新的功能、在這三個環節上運行的新軟件堆棧。如果您今天投資我們的架構,無需做任何事情,它就會進入越來越多的雲和越來越多的數據中心,一切都會正常運行。”