
Microsoft quietly reduces reliance on NVIDIA: developing alternative network cards.

媒體稱,微軟開發的網卡類似英偉達的 ConnectX-7,開發可能需一年多時間,若開發成功,既可以節省微軟的資金,也可能減少 OpenAI 用微軟服務器訓練 AI 大模型的時間。
除了自研人工智能(AI)芯片,微軟還試圖在其他 AI 開發相關產品方面減少對英偉達的依賴,不過,這種努力沒有去年公佈的 AI 芯片那麼高調。
美東時間 2 月 20 日週二,媒體援引知情者消息稱,微軟正在開發一款英偉達網卡的替代品,類似於英偉達的網卡 ConnectX-7,用它確保數據在微軟的服務器之間快速移動。微軟希望,這種網絡設備新品既可以為公司節省資金,又能提高英偉達芯片服務器的性能。
網卡是數據中心的一項重要技術,它用於提高服務器的流量速度。媒體稱,開發上述新網卡可能好需要一年多的時間,若開發成功,新品可能對微軟大力投資的 OpenAI 有幫助,可能減少 OpenAI 用微軟服務器訓練 AI 大模型的時間。因為微軟在其數據中心使用英偉達的 AI 芯片時,服務器需要傳輸 OpenAI 等 AI 開發客户所需的大量數據,可能因此過載。OpenAI 的 CEO Sam Altman 私下表達過對微軟算力相比谷歌遜色的擔憂。
知情者稱,微軟 CEO 納德拉(Satya Nadella)已任命曾聯合創立網絡設備開發商 Juniper Networks 的 Pradeep Sindhu 領導微軟的網卡開發。公開資料顯示,去年微軟收購了 Sindhu 成立的另服務器芯片初創公司 Fungible,他和他的團隊由此加盟微軟。
Sindhu 本人未回應上述報道,英偉達的發言人則謝絕置評。微軟的發言人在一份聲明中表示,作為微軟 Azure 雲基礎設施系統方法的一部分,微軟專注於優化堆棧的每一層。公司經常開發新技術滿足客户的需求,包括網絡芯片。
若開發網卡的消息屬實,將是微軟時隔三個月再次傳出搶英偉達 “飯碗” 的消息。英偉達此前估算,其服務器網絡設備的年銷售額將超過 100 億美元。
去年 11 月中,微軟推出兩款高端定製芯片,為 Azure 服務,分別是微軟的首款 AI 芯片 Maia 100,以及英特爾 CPU 的競品:基於 Arm 架構的雲原生芯片 Cobalt 100。
其中,Maia 100 用於 OpenAI 模型、Bing、GitHub Copilot 和 ChatGPT 等 AI 工作負載運行雲端訓練和推理。它採用台積電的 5 納米工藝製造,有 1050 億個晶體管,比 AMD 挑戰英偉達的 AI 芯片 MI300X 的 1530 億個晶體管少約 30%。
當時有媒體評論稱,Maia 100 可能和英偉達的芯片正面對決,成為英偉達芯片的替代品。
微軟主管 Azure 硬件系統和基礎設施的副總 Rani Borkar 當時稱,微軟正在測試 Maia 100 如何滿足旗下搜索引擎必應的 AI 聊天機器人 Copilot、GitHub Copilot 編碼助手和 OpenAI 模型 GPT-3.5 Turbo 的需求。
按照 Borkar 的説法,Maia 100 已在其 Bing 和 Office AI 產品上測試,OpenAI 也在試用。這意味着,ChatGPT 等模型的雲訓練和推理都將可能基於該芯片。
