OpenAI 創始人領銜，超過 350 位 AI 大佬聯名呼籲：AI 堪比 “疫情和核戰爭”，可能滅絕人類

AI 風頭正盛，科技圈再次流出了一封重磅公開信。

當地時間 5 月 30 日，非營利組織 “人工智能安全中心”（Center for AI Safety）在其官網發佈一封聯名公開信，稱這一堪比 “疫情和核戰爭” 的技術或對人類構成生存威脅。

整個聲明只有一句話，22 個單詞：

減輕 AI（給人類）帶來的滅絕風險應成為全球性的優先事項，與大流行病及核戰爭等其他影響社會的大規模風險處於同等級別。

目前已有 350 位 AI 大佬簽署了這封聯名公開信，包括 OpenAI 首席執行官 Sam Altman、谷歌 DeepMind 首席執行官 Demis Hassabis 和 Anthropic 首席執行官 Dario Amode 三大 AI 公司掌門人。

值得一提的是，圖靈獎獲得者、被譽為人工智能 “教父” 的 Geoffrey Hinton 和 Yoshua Bengio 也赫然在列。名單裏也不乏中國學者的身影，包括中國工程院院士、清華大學智能產業研究院（AIR）院長張亞勤，中國科學院自動化研究所人工智能倫理與治理研究中心主任曾毅，清華大學副教授詹仙園。

其他簽署人還包括微軟首席技術官 Kevin Scott，前聯合國裁軍事務高級代表 Angela Kane，Skype 聯合創始人 Jaan Tallinn，Quora 首席執行官 Adam D'Angelo。

他們表示，雖然公眾一直在承認人工智能的風險，但還有更多挑戰需要討論。他們還想 “為越來越多的專家和公眾人物創造共同知識，他們也認真對待先進人工智能領域存在的一些最嚴重的風險”。

自去年 ChatGPT 發佈以來，科技行業掀起了一場競爭激烈的 AI 競賽，同時也引發公眾對於這項未知技術的恐懼。

今年 3 月份，Bengio、馬斯克、蘋果聯合創始人 Steve Wozniak、Stability AI 創始人 Emad Mostaque 等科技大佬發表聯名公開信，呼籲暫停比 GPT-4 更強大的人工智能系統的訓練，暫停時間至少為 6 個月。

信中提到：

我們不應該冒着失去對文明控制的風險，將決定委託給未經選舉的技術領袖。只有當確保強大的人工智能系統的效果是積極的，其風險是可控的才能繼續開發。

拜登政府近幾個月表示，人工智能對公共安全、隱私和民主構成威脅，但政府對其監管的權力有限。微軟創始人比爾·蓋茨曾表示，他認為人工智能應該受到適當監管，但對這項技術表示興奮，他沒有簽署週二的聯名信。