
2 元/卡時可租英偉達 A800 算力卡?官方回應:“確有此事”

高端算力產品英偉達 A800 的市價已升至約 11 萬元/張,這使得 AI 應用的 “准入” 門檻變得更高。然而,有人在知識分享平台上發佈了一條 “2 元/卡時可租英偉達 A800 算力卡” 的帖子,引起了業內的關注。英偉達官方回應稱,確有此事。這一信息可能屬於商業相關信息。
隨着大模型技術在全球範圍內受到前所未有的關注和追捧,用於大模型訓練的算力資源也水漲船高。以英偉達 A800 人工智能訓練卡為例,市價已升至約 11 萬元/張。算卡價格高,在無形中抬高了 AI 應用的 “准入” 門檻。
不過,某知識分享平台最近一條 “A800 卡租賃僅需 2 元/卡時” 的帖子引發業內關注。據發帖網友稱,在國家超算互聯網(www.scnet.cn)官方網站上,A800 訓練卡的時租價格僅 2 元,按照調試訓練一個大模型需要 1 個月來計算,微調優化一個大模型所需的單卡訓練成本僅需 1440 元,成本僅為購買前述訓練卡價格的 1/76,同時還不必關注數據中心的運營、電費等成本。
知乎網友發帖截圖
在如今火爆的算力行業,“卡價” 與 “卡租價” 倒掛的情況並不多見。該消息是否屬實?記者隨即登入國家超算互聯網官網查詢。在網站 “商品廣場—基礎資源” 導航頁下,多種類型計算租賃資源可見,標價為 2 元/卡時的 “英偉達 A800 顯存 80G” 赫然在列。
高端算力產品賣出 “白菜價”,恐怕事出有因。記者為此與國家超算互聯網相關負責人員取得聯繫。
該負責人介紹,截至 4 月 18 日前,單張 A800 卡租賃價格確實是 2 元/時,但單人可申請卡的數量有一定限制,並補充説 “這些資源已可滿足 90% 以上用户 AI 算力需求”。
其解釋説,因為租賃 AI 卡的用户,超 90% 的都是對已有大模型進行 “微調”,該場景下使用若干張 A800 卡、幾天的時間就可完成訓練。若用户需要長時間、大量租賃 AI 算力進行全量模型訓練,平台也有充足國產 AI 卡支持並行計算需求 “申請數量多還可享折扣”。
有業內人士告訴記者,2024 年春節後,AI 算力卡租賃市場行情穩中有降,部分原因就在於諸如國家超算互聯網這樣擁有大量算力平台不斷完善服務能力、增加了市場算力供給。另外,伴隨着國內外多個大模型宣佈開源,許多企業選擇在成熟模型基礎上進行微調訓練,也階段性地降低了算力需求。
公開信息顯示,國家超算互聯網由國家部委指導併發起,於 2023 年 4 月宣佈啓動部署,是一個集算力網絡、應用、服務、資源於一體的國家級算力服務交易平台。該負責人還表示,國家超算互聯網平台 “已完成首階段建設目標”,將於 4 月 11 日正式上線。
來源:中國科學報 原文標題《2 元/卡時可租英偉達 A800 算力卡?官方回應:“確有此事”》作者《中國科學報》記者 趙廣立
