Alibaba has proposed a governance path for AI

作者 | 劉寶丹

編輯 | 黃昱

AI 大模型技術的迅速迭代，對 AI 治理提出了更高要求，阿里也開始更多思考如何做好 AI 治理。

近日，在大模型技術發展與治理創新研討會上，阿里巴巴集團副總裁錢磊表示，為了對大模型進行有效治理，提高它的可控性，降低應用風險，阿里圍繞着大模型研發、應用全生命週期，全面部署了安全保障措施。

一是提高模型內生安全能力。在數據採集、處理階段強調源頭管控，進行嚴格的數據篩選和數據安全標註；在模型訓練和設計階段通過添加安全語料；在模型上線前進行全面安全評估，確保各類風險項目在生成內容上的合格率。

二是加強外圍護欄能力。在模型部署應用後，通過外圍護欄進一步提升大模型在應用場景中的安全性，通過日常巡檢驗證結果是不是能夠達到預期，是不是可靠性、可信、可用都能夠達到阿里的要求。

阿里還與中國電子技術標準化研究院聯合發佈了《大模型技術發展及治理實踐報告》，這是阿里巴巴連續第三年發佈 AI 治理相關研究成果，進一步深化了阿里在技術研發與治理領域的經驗總結。

阿里研究院院長袁媛認為，AI 大模型的治理思路是解析大模型發展中三個最核心的發展引擎—算力、算法、數據，給出一個適合中國發展的路徑，以數據為例，在符合真實世界的特徵的前提下，合成數據能幫助模型突破當前的能力上限，並且能夠降低更多的安全困擾。

自從 2022 年底，ChatGPT 在全球出圈，AI 大模型已經成為科技巨頭們爭相押注的賽道，阿里就是其中的核心參與力量。

在 AI 大模型方面，阿里堅持雲和 AI 協同發展，將雲從 IT 和 DT 的基礎設施向人工智能基礎設施方向去演進。據錢磊介紹，阿里會持續加大投入，一是提高自研基礎模型通義系列的能力，二是通過完善 AI 基礎設施和相關支撐系統，降低模型應用開發的成本。

“通義千問” API 調用價格一年間下降了 97%。同時，阿里堅持全尺寸、全模態開源，推動把 AI 能力真正轉化成為千行百業的生產力。目前已經有 30 萬 + 企業接入了阿里巴巴通義千問大模型。

Hugging Face 社區的數據顯示，基於 “通義” 模型開發的衍生模型已突破 8 萬個，已吸引超過 600 萬 AI 開發者參與，在全球開源平台的下載量已突破 1 億次。

在阿里看來，在發展大模型前沿技術推動人工智能應用的同時，也要高度重視人工智能的安全，負責任地去看待大模型帶來的安全問題。

不過，AI 大模型還處於快速迭代中，解決好安全和治理問題的關鍵在於，在發展和風險之間做好平衡，這就好比是高速路上換零件，需要極高的智慧和專業。

更大的挑戰還在後面，隨着 AI 大模型真正走進人們的生活，關於人工智能安全和治理的議題還有暴露出更多問題，所有 AI 相關公司都必須面對這一問題。

從來沒有一種技術像 AI 這樣，具有可以匹敵人類的智能，然而這也代表了，一旦 AI 被濫用，其破壞性也同樣值得警惕，AI 治理這條路才剛剛開始，阿里已經嘗試給出自己的答卷。

風險提示及免責條款

市場有風險，投資需謹慎。本文不構成個人投資建議，也未考慮到個別用户特殊的投資目標、財務狀況或需要。用户應考慮本文中的任何意見、觀點或結論是否符合其特定狀況。據此投資，責任自負。