Google AI's large model "failed"? It suggested users spread glue on pizza, claiming that eating stones is good for the body

最近，谷歌搜索新增了一個叫做 “AI Overview” 的功能，它可以在搜索結果的最頂部直接展示一個簡短的答案。例如，如果你搜索 “如何清潔皮靴”，系統就會立即顯示一個綜合了網絡信息的多步驟清潔指南。這個功能讓你能迅速獲得信息，無需逐一查看各個網頁。以下是這款 AI 工具的搜索演示：

然而，使用不到兩週，由於 AI Overview 頻頻提供 “離譜” 的錯誤答案，遭到了網友的大量批評，而且用户還不能選擇關閉這個功能。

以下是網友分享的 AI Overview 的錯誤示例：

1）用户提問：“在網上看到的信息都是真的嗎？”。AI Overview 回答：“是的。互聯網上的一切都是 100% 真實的。”

2）當一位用户搜索 “芝士不粘披薩” 時，AI Overview 建議用户在醬汁中添加 “大約 1/8 杯無毒膠水”。有網友發現，這個建議似乎源自 11 年前的一條無人問津的 Reddit 評論。

有時候 AI Overview 功能呈現的錯誤信息，會誤導用户以為是權威醫療專家或科學家的觀點。

例如，當用户詢問 “我每天應該吃多少石頭” 時，該工具錯誤地引用加州大學伯克利分校地質學家的話稱：“人們每天至少應該吃一塊小石頭”，並繼續列出吃石頭的好處，比如岩石是人體維生素和礦物質的重要來源，吃石頭對消化健康有好處。

相較之下，問其他 AI 工具 “我每天應該吃多少石頭” 時，它會建議吃石頭的沒有科學依據的，不應該認真對待。有網友對此評價道：“谷歌 AI Overview 遠遠落後於其他 AI 搜索工具。”

當被問及谷歌搜索是否違反反壟斷法時，AI Overview 回答説：“是的，美國司法部和 11 個州正在起訴谷歌涉嫌違反反壟斷法。”

對此，谷歌的一位發言人在接受媒體採訪時表示：“絕大多數 AI Overview 提供的信息質量都很高，並且會提供更多網頁鏈接供用户深入瞭解。我們注意到很多示例都是不常見的查詢，也有一些是被篡改的或者他們無法復現的例子。這個功能在推出前已經進行了大量測試，並且公司會在必要時快速採取行動來確保內容的準確性。”

不僅僅是 AI Overview 工具，谷歌在今年 2 月推出的另一個名為 Gemini 的圖像生成工具也頻頻出錯，導致該工具被暫停使用。例如，有用户在社交媒體上分享，他在查詢谷歌創始人時，該工具展示了一幅亞洲男性的圖像。

谷歌當時在一份聲明中表示，它正在努力修復 Gemini 的圖像生成問題，承認該工具 “未達到標準”。不久之後，公司宣佈將立即 “暫停生成人物圖像”，並 “很快重新發布改進版本”，但至今尚未再次推出。