圖靈獎得主約瑟夫·斯發基斯：邁向廣義 AI 面臨三大挑戰

7 月 8 日，以 “智聯世界·眾智成城” 為主題的 2021 世界人工智能大會正式開幕。2007 圖靈獎得主國際嵌入式研發中心 Verimag 實驗室創始人、教授約瑟夫·斯發基斯 (Joseph Sifakis) 在開幕式上介紹了從狹義人工智能到廣義人工智能面臨的三大挑戰。

Sifakis 認為，狹義人工智能只提供了構建模塊，但智能遠不止在數據集上進行插值。光靠機器學習技術的不斷進步無法實現廣義人工智能這一願景。

他認為，我們需要採取行動 ，從單個任務、單個目標、單個領域，如智能個人助理、棋手、自然語言翻譯等的智能系統發展到響應式/主動式系統。主動式系統集成了許多協調任務，旨在實現可能存在衝突的多領域目標，並在不可預測的機電和人類環境中運行，例如自動駕駛汽車、智能電網、智能工廠。

但是，這面臨三大挑戰。他提出的第一個挑戰關於神經網絡敏感性的問題，在某些情況下，神經網絡對輸入數據的微小變化很敏感。

第二個問題是要提供可信保證。Sifakis 表示，系統的關鍵性意味着系統製造商需按照標準的規定向認證機構提供最終的可信保證。已經被成功應用於自動化系統（比如飛行控制器）的現有方法和工具遵循的是基於模型的範例。由於人工智能組件的不可解釋性以及系統及系統環境的高度複雜性，這些方法和工具只能 “甘拜下風”。

不過，他也提出，雖然人工智能的可解釋性很大程度上仍然是個問題，但它不應該成為障礙。

他認為這涉及到三個重要問題，首先，具有成本效益地利用不受信任的組件構建可信系統：開發出 “混合” 架構，以集成運行時可信保證監控器監控之下的不受信任 AI 使能組件，進而應對危險情況並在重大情況下進行接管；其次，共生智能：將人工代理（計算效率和精度）同人類代理（創造力和感知能力）的優點相結合，可以增強可信度——這一挑戰遠比人機界面（HMI）更為複雜。

此外，標準、法規和接受標準也在演變。法規要求有越來越寬鬆的趨勢，例如美國自動駕駛汽車的自我認證，但由於技術問題和公信度的持續惡化，對這種情況的接受可能會受到影響。

邁向廣義 AI 的第三個挑戰是如何將符號知識和非符號知識聯繫起來。想要達到人類水平的性能，系統應具備處理常識世界知識的能力，而這需要將抽象意識思維和快思維結合起來。Sifakis 表示，人類思維具有可描述整個世界的語義模型，人類的理解過程結合了自下而上（從感知層次到思維語義模型）推理和自上而下（從語義模型到感知層次）推理。

Sifakis 認為，目前存在的挑戰是如何開發出能夠將學習技術和推理技術（外推、類比）相結合，進而逐步構建其環境語義模型的系統——這才是最大的難題，迄今為止在自然語言語義分析方面進展甚微即為證明。

文章作者

來莎莎