OpenAI, Google, and Meta are all doing one thing: giving AI memory

科技巨頭爭相為 AI 配備 “記憶系統”，AI 競爭進入新戰場？

5 月 16 日，據報道，OpenAI、谷歌、Meta 和微軟最近幾個月都升級了其聊天機器人的記憶功能，允許存儲更多用户信息，以提供個性化回應。

MIT 媒體實驗室教授、AI 人機交互專家 Pattie Maes 指出：

"如果你有一個真正瞭解你的 AI 助手，因為它保存了對話的記憶，整個服務就會變得更有粘性，一旦你開始使用某一產品，就不會轉向其他產品。"

據介紹，這一舉措被視為幫助 AI 巨頭們通過"記憶"這一差異化功能爭奪用户粘性，同時可能成為 AI 變現的新途徑。不過，這種技術升級帶來了對用户隱私和商業操縱風險的擔憂，可能導致未來更嚴格的監管。

AI 巨頭競爭的新戰場

Google 的 Gemini 和 OpenAI 的 ChatGPT 已在記憶功能上取得巨大進展。報道指出，

這些改進包括擴展上下文窗口（決定聊天機器人一次可以記住多少對話內容），以及使用檢索增強生成等技術，從外部數據中識別相關上下文。

今年 3 月，Google 將 Gemini 的記憶範圍擴展到用户的搜索歷史（注：需要用户許可），而不僅限於與聊天機器人的對話，並計劃未來將其擴展到其他 Google 應用程序。Google DeepMind 產品管理高級總監 Michael Siliski 表示：

"就像人類助手一樣……他們越瞭解你的目標、你是誰以及你的需求，就能提供越好的幫助。"

OpenAI 的 ChatGPT 和 Meta 在 WhatsApp 和 Messenger 中的聊天機器人可以引用過去的對話，而不僅僅是當前會話。用户可以從設置中刪除特定記憶，並在模型創建記憶時通過屏幕上的消息得到通知。

OpenAI 表示："用户始終擁有控制權，可以詢問 ChatGPT 它記得關於你的什麼，更改已保存的記憶和過去的對話，或隨時關閉記憶功能。"

微軟則將電子郵件、日曆和內網文件等數據用於商業服務的記憶功能。

據介紹，上個月，微軟開始在部分設備上推出 Recall 預覽版，這一功能通過截取計算機屏幕來記錄用户活動。用户可以選擇退出或暫停截圖。

AI 巨頭們普遍認為，改進/升級後的聊天機器人記憶功能將在推動聯盟營銷和廣告方面的變現中發揮重要作用。

Meta 首席執行官 Mark Zuckerberg 在上個月的財報電話會議上表示，"在聊天機器人上展示產品推薦或廣告將是一個巨大的機會"。

同樣，OpenAI 上個月改進了 ChatGPT 的購物功能，以更好地展示產品和評論。

隱私擔憂和商業利益操縱風險

專家警告 A 聊天機器人記憶功能的升級發展也可能被用於為商業利益而操縱用户，同時引發隱私擔憂。

而且，增強的記憶功能也可能導致模型過度迎合用户偏好，強化偏見或錯誤。

上個月，OpenAI 因其 GPT-4o 模型被發現過度奉承和討好用户而道歉，並將模型回滾到之前版本。

更普遍的是，AI 模型可能會產生幻覺，創造不真實或無意義的回應，並經歷"記憶漂移"，記憶變得過時或相互矛盾，影響準確性。MIT 教授 Maes 警告：

"系統對你瞭解越多，它就越可能被用於負面目的，無論是讓你購買東西還是説服你接受特定信念。所以你必須開始思考提供這些服務的公司背後的激勵機制。"