科技巨头争相为AI配备“记忆系统”，AI竞争进入新战场？

5月16日，据报道，OpenAI、谷歌、Meta和微软最近几个月都升级了其聊天机器人的记忆功能，允许存储更多用户信息，以提供个性化回应。

MIT媒体实验室教授、AI人机交互专家Pattie Maes指出：

"如果你有一个真正了解你的AI助手，因为它保存了对话的记忆，整个服务就会变得更有粘性，一旦你开始使用某一产品，就不会转向其他产品。"

据介绍，这一举措被视为帮助AI巨头们通过"记忆"这一差异化功能争夺用户粘性，同时可能成为AI变现的新途径。不过，这种技术升级带来了对用户隐私和商业操纵风险的担忧，可能导致未来更严格的监管。

AI巨头竞争的新战场

Google的Gemini和OpenAI的ChatGPT已在记忆功能上取得巨大进展。报道指出，

这些改进包括扩展上下文窗口（决定聊天机器人一次可以记住多少对话内容），以及使用检索增强生成等技术，从外部数据中识别相关上下文。

今年3月，Google将Gemini的记忆范围扩展到用户的搜索历史（注：需要用户许可），而不仅限于与聊天机器人的对话，并计划未来将其扩展到其他Google应用程序。Google DeepMind产品管理高级总监Michael Siliski表示：

"就像人类助手一样……他们越了解你的目标、你是谁以及你的需求，就能提供越好的帮助。"

OpenAI的ChatGPT和Meta在WhatsApp和Messenger中的聊天机器人可以引用过去的对话，而不仅仅是当前会话。用户可以从设置中删除特定记忆，并在模型创建记忆时通过屏幕上的消息得到通知。

OpenAI表示："用户始终拥有控制权，可以询问ChatGPT它记得关于你的什么，更改已保存的记忆和过去的对话，或随时关闭记忆功能。"

微软则将电子邮件、日历和内网文件等数据用于商业服务的记忆功能。

据介绍，上个月，微软开始在部分设备上推出Recall预览版，这一功能通过截取计算机屏幕来记录用户活动。用户可以选择退出或暂停截图。

AI巨头们普遍认为，改进/升级后的聊天机器人记忆功能将在推动联盟营销和广告方面的变现中发挥重要作用。

Meta首席执行官Mark Zuckerberg在上个月的财报电话会议上表示，"在聊天机器人上展示产品推荐或广告将是一个巨大的机会"。

同样，OpenAI上个月改进了ChatGPT的购物功能，以更好地展示产品和评论。

隐私担忧和商业利益操纵风险

专家警告A聊天机器人记忆功能的升级发展也可能被用于为商业利益而操纵用户，同时引发隐私担忧。

而且，增强的记忆功能也可能导致模型过度迎合用户偏好，强化偏见或错误。

上个月，OpenAI因其GPT-4o模型被发现过度奉承和讨好用户而道歉，并将模型回滚到之前版本。

更普遍的是，AI模型可能会产生幻觉，创造不真实或无意义的回应，并经历"记忆漂移"，记忆变得过时或相互矛盾，影响准确性。MIT教授Maes警告：

"系统对你了解越多，它就越可能被用于负面目的，无论是让你购买东西还是说服你接受特定信念。所以你必须开始思考提供这些服务的公司背后的激励机制。"