开启时会模糊预览图，关闭后正常显示
RT @andrefrcastro: @arvidkahl Really enjoying your book, didn’t finished yet though . I think I’ll need to restart
Building https://t.co/od97B0HVrk and https://t.co/666FnyVVE0 in Public. Raising all the boats with kindness. 🎙️ https://t.co/6w69DZmi8H · ✍️ https://t.co/lpnor5rsTW
RT @GaryLittleFSQ: Let’s go build! I will definitely hire folks that go modernize the US government. Amazing opportunity for folks! Great s…
Dir., Office of Personnel Management (previously, MP at a16z); Author of Secrets of Sand Hill Road; father of three amazing/crazy/beautiful girls.
RT @RepBethVanDuyne: Excited to celebrate the launch of the new @USTechForce. This is a major step toward accelerating the use of AI and so…
Dir., Office of Personnel Management (previously, MP at a16z); Author of Secrets of Sand Hill Road; father of three amazing/crazy/beautiful girls.
![[论文解读] AI 智能体记忆综述
论文的核心在于提出了一个理解智能体记忆的统一视角，即从 形态、功能 和 动态 三个维度进行分析。
· 形态：探讨记忆以何种架构或表现形式存在
· 功能：探讨为何需要记忆，它服务于哪些目的
· 动态：探讨记忆如何随时间形成、演化和被检索
记忆的形态：记忆储存在哪里？
1. Token 级记忆
是什么：这是最常见的一种形式，将信息以离散、明确的单元（如文本片段、轨迹、知识图谱节点）存储在模型外部
特点：透明、易于编辑和检索
子分类：
· 扁平记忆 (1D)：无拓扑结构的序列或集合，如对话记录
· 平面记忆 (2D)：单层的结构化组织，如知识图谱或树
· 层级记忆 (3D)：跨越多层的结构，支持从原始数据到高度抽象概念的垂直推理
2. 参数化记忆
是什么：信息被编码并储存在模型自身的参数中
特点：访问速度快（隐式访问），能实现更深层次的泛化，但更新成本高，且容易发生“灾难性遗忘”
3. 潜层记忆
是什么：记忆以模型内部的隐藏状态、激活值或连续表示的形式存在
特点：在效率和灵活性之间取得平衡，是机器原生的，但对人类不透明
记忆的功能：为什么需要记忆？
为了超越传统简单的“长时/短时记忆”分类，论文提出了一个更精细的功能分类法，为了回答“智能体需要知道什么？”、“如何改进？”以及“当前在思考什么？”这三个根本问题。
1. 事实记忆
储存关于用户、环境和事件的明确、可声明的事实。确保交互的一致性、连贯性和适应性。例如，记住用户的偏好。
2. 经验记忆
封装从过去成功或失败的轨迹中抽象出的程序性或战略性知识。实现持续学习和自我进化。例如，从错误中学习，提炼出可复用的策略。
3. 工作记忆
在单个任务或会话期间，动态管理和操作瞬时上下文。作为处理当前任务的“草稿纸”，处理和转换信息，以支持即时推理。
记忆的动态：记忆如何运作和演化？
论文将记忆的整个生命周期分解为三个核心过程：
1. 记忆形成
做什么：将原始的交互经验（如对话、工具输出）转化为信息密集的知识单元。这个过程不仅仅是记录，而是通过语义摘要、知识蒸馏、结构化构建等方式提取有长期价值的信息。
2. 记忆演化
做什么：动态地整合新记忆，并维护现有记忆库。这包括：
· 巩固：合并相关条目，形成更泛化的见解
· 更新：修正与新信息冲突的旧记忆
· 遗忘：移除过时或冗余的信息，以保持高效
3. 记忆检索
做什么：在需要时，根据当前任务和上下文，准确地从记忆库中提取最相关的信息。这涉及到何时检索、构建何种查询、采用何种策略（如关键词、向量或图搜索）以及如何后处理（重排序、过滤）检索结果。
结论与未来展望
这篇论文雄辩地指出，记忆不仅仅是智能体的一个附加模块，而是其实现时间连贯性、持续适应性和长时程能力的核心基石。
未来的研究前沿包括：
· 从记忆检索到记忆生成：未来的智能体不仅是被动地检索信息，更能够根据需要主动生成和合成最适用的记忆。
· 自动化记忆管理：通过强化学习等方法，让智能体自主学会如何管理其记忆，而不是依赖于人工设计的规则。
· 多模态与多智能体记忆：设计能够统一处理文本、图像、声音等多种信息来源的记忆系统，以及支持多个智能体高效协作的共享记忆机制。
· 可信赖的记忆：确保记忆系统的隐私性、可解释性和稳健性，防止信息泄露和错误引导。
论文地址](/_next/image?url=https%3A%2F%2Fpbs.twimg.com%2Fmedia%2FG8SkvkTaYAAB83_.jpg&w=3840&q=75 "[论文解读] AI 智能体记忆综述
论文的核心在于提出了一个理解智能体记忆的统一视角，即从 形态、功能 和 动态 三个维度进行分析。
· 形态：探讨记忆以何种架构或表现形式存在
· 功能：探讨为何需要记忆，它服务于哪些目的
· 动态：探讨记忆如何随时间形成、演化和被检索
记忆的形态：记忆储存在哪里？
1. Token 级记忆
是什么：这是最常见的一种形式，将信息以离散、明确的单元（如文本片段、轨迹、知识图谱节点）存储在模型外部
特点：透明、易于编辑和检索
子分类：
· 扁平记忆 (1D)：无拓扑结构的序列或集合，如对话记录
· 平面记忆 (2D)：单层的结构化组织，如知识图谱或树
· 层级记忆 (3D)：跨越多层的结构，支持从原始数据到高度抽象概念的垂直推理
2. 参数化记忆
是什么：信息被编码并储存在模型自身的参数中
特点：访问速度快（隐式访问），能实现更深层次的泛化，但更新成本高，且容易发生“灾难性遗忘”
3. 潜层记忆
是什么：记忆以模型内部的隐藏状态、激活值或连续表示的形式存在
特点：在效率和灵活性之间取得平衡，是机器原生的，但对人类不透明
记忆的功能：为什么需要记忆？
为了超越传统简单的“长时/短时记忆”分类，论文提出了一个更精细的功能分类法，为了回答“智能体需要知道什么？”、“如何改进？”以及“当前在思考什么？”这三个根本问题。
1. 事实记忆
储存关于用户、环境和事件的明确、可声明的事实。确保交互的一致性、连贯性和适应性。例如，记住用户的偏好。
2. 经验记忆
封装从过去成功或失败的轨迹中抽象出的程序性或战略性知识。实现持续学习和自我进化。例如，从错误中学习，提炼出可复用的策略。
3. 工作记忆
在单个任务或会话期间，动态管理和操作瞬时上下文。作为处理当前任务的“草稿纸”，处理和转换信息，以支持即时推理。
记忆的动态：记忆如何运作和演化？
论文将记忆的整个生命周期分解为三个核心过程：
1. 记忆形成
做什么：将原始的交互经验（如对话、工具输出）转化为信息密集的知识单元。这个过程不仅仅是记录，而是通过语义摘要、知识蒸馏、结构化构建等方式提取有长期价值的信息。
2. 记忆演化
做什么：动态地整合新记忆，并维护现有记忆库。这包括：
· 巩固：合并相关条目，形成更泛化的见解
· 更新：修正与新信息冲突的旧记忆
· 遗忘：移除过时或冗余的信息，以保持高效
3. 记忆检索
做什么：在需要时，根据当前任务和上下文，准确地从记忆库中提取最相关的信息。这涉及到何时检索、构建何种查询、采用何种策略（如关键词、向量或图搜索）以及如何后处理（重排序、过滤）检索结果。
结论与未来展望
这篇论文雄辩地指出，记忆不仅仅是智能体的一个附加模块，而是其实现时间连贯性、持续适应性和长时程能力的核心基石。
未来的研究前沿包括：
· 从记忆检索到记忆生成：未来的智能体不仅是被动地检索信息，更能够根据需要主动生成和合成最适用的记忆。
· 自动化记忆管理：通过强化学习等方法，让智能体自主学会如何管理其记忆，而不是依赖于人工设计的规则。
· 多模态与多智能体记忆：设计能够统一处理文本、图像、声音等多种信息来源的记忆系统，以及支持多个智能体高效协作的共享记忆机制。
· 可信赖的记忆：确保记忆系统的隐私性、可解释性和稳健性，防止信息泄露和错误引导。
论文地址")
[论文解读] AI 智能体记忆综述 论文的核心在于提出了一个理解智能体记忆的统一视角，即从 形态、功能 和 动态 三个维度进行分析。 · 形态：探讨记忆以何种架构或表现形式存在 · 功能：探讨为何需要记忆，它服务于哪些目的 · 动态：探讨记忆如何随时间形成、演化和被检索 记忆的形态：记忆储存在哪里？ 1. Token 级记忆 是什么：这是最常见的一种形式，将信息以离散、明确的单元（如文本片段、轨迹、知识图谱节点）存储在模型外部 特点：透明、易于编辑和检索 子分类： · 扁平记忆 (1D)：无拓扑结构的序列或集合，如对话记录 · 平面记忆 (2D)：单层的结构化组织，如知识图谱或树 · 层级记忆 (3D)：跨越多层的结构，支持从原始数据到高度抽象概念的垂直推理 2. 参数化记忆 是什么：信息被编码并储存在模型自身的参数中 特点：访问速度快（隐式访问），能实现更深层次的泛化，但更新成本高，且容易发生“灾难性遗忘” 3. 潜层记忆 是什么：记忆以模型内部的隐藏状态、激活值或连续表示的形式存在 特点：在效率和灵活性之间取得平衡，是机器原生的，但对人类不透明 记忆的功能：为什么需要记忆？ 为了超越传统简单的“长时/短时记忆”分类，论文提出了一个更精细的功能分类法，为了回答“智能体需要知道什么？”、“如何改进？”以及“当前在思考什么？”这三个根本问题。 1. 事实记忆 储存关于用户、环境和事件的明确、可声明的事实。确保交互的一致性、连贯性和适应性。例如，记住用户的偏好。 2. 经验记忆 封装从过去成功或失败的轨迹中抽象出的程序性或战略性知识。实现持续学习和自我进化。例如，从错误中学习，提炼出可复用的策略。 3. 工作记忆 在单个任务或会话期间，动态管理和操作瞬时上下文。作为处理当前任务的“草稿纸”，处理和转换信息，以支持即时推理。 记忆的动态：记忆如何运作和演化？ 论文将记忆的整个生命周期分解为三个核心过程： 1. 记忆形成 做什么：将原始的交互经验（如对话、工具输出）转化为信息密集的知识单元。这个过程不仅仅是记录，而是通过语义摘要、知识蒸馏、结构化构建等方式提取有长期价值的信息。 2. 记忆演化 做什么：动态地整合新记忆，并维护现有记忆库。这包括： · 巩固：合并相关条目，形成更泛化的见解 · 更新：修正与新信息冲突的旧记忆 · 遗忘：移除过时或冗余的信息，以保持高效 3. 记忆检索 做什么：在需要时，根据当前任务和上下文，准确地从记忆库中提取最相关的信息。这涉及到何时检索、构建何种查询、采用何种策略（如关键词、向量或图搜索）以及如何后处理（重排序、过滤）检索结果。 结论与未来展望 这篇论文雄辩地指出，记忆不仅仅是智能体的一个附加模块，而是其实现时间连贯性、持续适应性和长时程能力的核心基石。 未来的研究前沿包括： · 从记忆检索到记忆生成：未来的智能体不仅是被动地检索信息，更能够根据需要主动生成和合成最适用的记忆。 · 自动化记忆管理：通过强化学习等方法，让智能体自主学会如何管理其记忆，而不是依赖于人工设计的规则。 · 多模态与多智能体记忆：设计能够统一处理文本、图像、声音等多种信息来源的记忆系统，以及支持多个智能体高效协作的共享记忆机制。 · 可信赖的记忆：确保记忆系统的隐私性、可解释性和稳健性，防止信息泄露和错误引导。 论文地址
邵猛，中年失业程序员 😂 专注 - Context Engineering, AI Agents. 分享 - AI papers, apps and OSS. ex Microsoft MVP 合作 - 私信/邮箱：shaomeng@outlook.com 📢 公众号/小红书: AI 启蒙小伙伴
RT @squarehaunting: Imagine being at a university like Harvard or Oxford and using AI to think and write. The whole world is unpaywalled to…
Princeton CS prof and Director @PrincetonCITP. Coauthor of "AI Snake Oil" and "AI as Normal Technology". https://t.co/ZwebetjZ4n Views mine.
RT @teleodaniel: In this week's episode of the Free Radicals podcast, @EricDai_BioE and I speak with @adamgries, a serial tech entrepreneu…
bio x tech || per vita ad astra || conversations with biotech pioneers @freeradicalsbio