[好文分享] 理解AI 智能體中的記憶機制 Leonie Monigatti 最新發布的“Making Sense of Memory in AI Agents”,系統梳理了當前智能體記憶系統的核心概念、分類、管理方式及挑戰。由於LLM 本身是「無狀態」的,它們無法自然記住跨會話的歷史交互,因此開發者必須透過外部機制為智能體構建「記憶」能力,讓智能體能學習使用者偏好、累積經驗並持續改進。 什麼是智能體的記憶? · 核心定義:智能體記憶是指讓智能體在多次使用者互動中記住、回憶和遺忘重要資訊的能力。這不僅是保存聊天記錄,更是讓智能體具備「學習」與「適應」能力。 · 為什麼需要記憶? LLM 只記得訓練時學到的知識(參數知識),每次對話預設從零開始。如果不人為注入歷史訊息,智能體就會“失憶”,無法提供個人化、連貫的服務。 · 關鍵區分: · 「記憶」(memory)指儲存和檢索資訊的整個能力系統。 · 儲存位置叫做“記憶模組”,裡面保存的是“資訊”,而不是“回憶”(memories)。 · 智能體記憶(Agent Memory):泛指提供智能體記憶的能力。 · 智能體化記憶(Agentic Memory):記憶系統本身也能自主管理(例如智能體透過工具呼叫自己讀寫記憶)。 記憶的兩種主要分類視角 1. 基於認知架構的分類(模仿人類記憶,來自CoALA 論文和SOAR 架構) · 工作記憶(Working Memory):儲存目前情境視窗內的內容,相當於人類正在進行的對話,例如目前會話中使用者發出的指令和智慧體的回應。 · 語意記憶(Semantic Memory):儲存事實性知識,類似人類在學校學到的不變知識,例如「使用者有一隻叫Henry 的狗」或「使用者的生日是8月15日」等固定資訊。 ·程序記憶(Procedural Memory):儲存技能、規則和本能,類似於人類學會騎自行車後不必再思考的動作,例如係統提示中寫死的固定行為規則,如「每次回答問題前必須先思考」或「使用工具時要遵循特定格式」。錄。 · 程序記憶(Procedural Memory):儲存技能、規則和本能,類似於人類學會騎自行車後不必再思考的動作,例如係統提示中寫死的固定行為規則,如「每次回答問題前必須先思考」或「使用工具時要遵循特定格式」。 2. 基於設計模式的分類(Letta 框架,更注重工程實作) Letta 認為過度擬人化不利於工程實現,因此採用更務實的劃分: · 訊息緩衝區(Message Buffer):目前會話的最近訊息(短期、在上下文內)。 · 核心記憶(Core Memory):智能體主動維持的關鍵事實(也在脈絡內,例如使用者生日、伴侶名字)。 · 回憶記憶(Recall Memory):完整的原始對話歷史(通常存外在)。 · 存檔記憶(Archival Memory):明確提煉出的知識,存在向量資料庫等外部儲存中(長期)。 兩種分類的對應: · CoALA 的工作記憶≈ Letta 的消息緩衝區+ 核心記憶· CoALA 的長期記憶(語義/情節/程序)大部分對應Letta 的存檔記憶· Letta額外區分了“原始對話歷史”(recall memory),CoALA沒有單獨列出。 記憶管理:如何存、取、更新、遺忘? 1. 情境視窗內管理(短期記憶) · 問題:對話越長,token 越多→ 速度慢、費用高、容易混入無關資訊。 · 常用技巧:手動剪枝老消息、定期總結歷史(只保留摘要)。 2. 外部儲存管理(長期記憶) 核心操作(ADD / UPDATE / DELETE / NOOP): · 新增資訊· 更新過時資訊(如用戶搬家了) · 刪除無用/錯誤訊息(防止記憶膨脹) · 無需操作 3. 上下文↔ 外部儲存的流動機制· 顯式記憶(熱路徑):智能體即時判斷哪些資訊重要,自己調用工具寫入長期記憶(類似人類有意識記住某事)。實現難度大,可靠性低。 · 隱式記憶(後台處理):依固定規則定時更新,更可控。常見時機: · 會話結束後批次處理· 每隔固定時間/輪數處理· 每輪對話後立即處理(即時性強) 實作方式與挑戰· 儲存位置:目前對話用列表,指令用文字文件,長期知識用向量資料庫或圖資料庫。 · 主要挑戰: · 延遲:每次讀寫記憶都會拖慢反應速度。 · 遺忘機制:最困難的部分-如何自動判斷並刪除過時資訊?做不好就會導致記憶無限膨脹、品質下降。 · 現有框架: · 專注記憶:mem0、Letta、Cognee、Zep · 通用智能體框架(附記憶支持):LangChain/LangGraph、LlamaIndex、CrewAI、Google ADK 核心結論與啟示 1. LLM 天生無記憶,必須外掛記憶系統才能實現真正「智能」的智能體。 2. 目前記憶設計有兩個想法:擬人化(CoALA 式)和工程化(Letta 式),未來可能融合。 3. 最關鍵的技術困難在於「資訊在短期↔長期記憶之間的智慧流動」與「可靠的自動遺忘」。 4. 這個領域正處於高速發展期,已吸引大量資本和開源項目,預計2026 年將湧現更多成熟方案。 部落格網址:
正在載入線程內容
正在從 X 取得原始推文,整理成清爽的閱讀畫面。
通常只需幾秒鐘,請稍候。
![[好文分享] 理解AI 智能體中的記憶機制
Leonie Monigatti 最新發布的“Making Sense of Memory in AI Agents”,系統梳理了當前智能體記憶系統的核心概念、分類、管理方式及挑戰。由於LLM](https://pbs.twimg.com/media/G6PZArJbsAAu9LI.jpg)