LogoThread Easy
  • 発見
  • スレッド作成
LogoThread Easy

Twitter スレッドの万能パートナー

© 2025 Thread Easy All Rights Reserved.

探索

Newest first — browse tweet threads

Keep on to blur preview images; turn off to show them clearly

洗脑你的智能体:我们如何保持内存清洁

来自 @CamelAIOrg 团队,焦点在于上下文工程,即通过优化智能体的内存管理来提升其性能和效率。作者  @Hesamation 强调,智能体并非真正“遗忘”,而是由于上下文未得到有效管理导致的。开发者可以通过控制上下文内容来显著影响智能体的“智能”水平。

介绍了 CAMEL 框架中三种用于保持内存“清洁”的技术:上下文总结、工作流内存和工具输出缓存。这些方法为了解决智能体在处理任务时常见的上下文膨胀问题,从而提高效率并降低成本。

为什么需要内存管理
在智能体的工作流程中,常见问题包括任务偏离轨道、重复劳动和工具输出过载。这些会导致上下文窗口快速填满,消耗大量 tokens 和时间。

三种关键技术
1. 上下文总结(Context Summarization):保留核心内容
· 问题与用途:智能体有时会陷入“支线任务”,如在构建一个文本转表情符号应用时,过度纠结于数据库调试,导致主任务延误。这会消耗大量资源。
· 触发时机:当上下文使用超过 80% 窗口时;上下文偏离轨道需重置时;或在新会话中引用旧会话时。
· CAMEL 实现:提供三种方式——自动基于 tokens 阈值的总结、手动 API 调用,以及智能体可用的工具包总结。总结过程依赖精心设计的提示,提取关键信息如用户主要请求、剩余任务和当前进度。同时,保留最小用户消息以减少对 LLM 总结的依赖,避免潜在不准确。
· 益处:帮助智能体快速恢复焦点,减少无关细节的干扰。

2. 工作流内存(Workflow Memory):从过去经验中学习
· 问题与用途:智能体在重复任务中往往重复努力,例如编译免费机器学习书籍列表时,每次都需解决 archive. org 的访问问题,却无法保留经验。
· 核心设计:工作流内存是过去任务的结构化总结,包括任务标题(简短通用)、任务描述(用户目标摘要,无实现细节)、解决步骤(编号通用行动)、工具列表(用途说明)、故障恢复策略(可选)、笔记观察(可选)和标签(3-10个,用于分类和匹配)。
· 加载机制:开发者可指定会话,或基于智能体角色加载文件;智能体从工作流列表中选择最相关的 N 个(避免使用 RAG 以保持简单)。
· 研究应用:文章提到,该方法在网络导航任务中经测试显著提升性能,并引用相关论文。
· 益处:使智能体能复用经验,提高重复任务的效率。

3. 工具输出缓存(Tool Output Caching):一个警示性尝试
· 问题与用途:工具输出(如网页搜索结果或文件内容)往往冗长(如4250字符的搜索结果),长期保留在上下文中会导致 tokens 爆炸式增长。
· CAMEL 实现:监控超过2000字符的输出,将旧输出存储在外部文件(如 Markdown),上下文仅保留引用 ID 和预览(前160字符)。提供检索全输出的指令。
· 挑战与风险:尽管能节省 tokens,但可能导致信息丢失(智能体依赖预览忽略细节)和认知负担增加(需跟踪ID、判断是否检索)。文章视其为权衡效率与准确的尝试,已在CAMEL中回滚,需要进一步优化。
· 益处与警示:适合处理大输出,但需谨慎,以防降低性能。

洗脑你的智能体:我们如何保持内存清洁 来自 @CamelAIOrg 团队,焦点在于上下文工程,即通过优化智能体的内存管理来提升其性能和效率。作者 @Hesamation 强调,智能体并非真正“遗忘”,而是由于上下文未得到有效管理导致的。开发者可以通过控制上下文内容来显著影响智能体的“智能”水平。 介绍了 CAMEL 框架中三种用于保持内存“清洁”的技术:上下文总结、工作流内存和工具输出缓存。这些方法为了解决智能体在处理任务时常见的上下文膨胀问题,从而提高效率并降低成本。 为什么需要内存管理 在智能体的工作流程中,常见问题包括任务偏离轨道、重复劳动和工具输出过载。这些会导致上下文窗口快速填满,消耗大量 tokens 和时间。 三种关键技术 1. 上下文总结(Context Summarization):保留核心内容 · 问题与用途:智能体有时会陷入“支线任务”,如在构建一个文本转表情符号应用时,过度纠结于数据库调试,导致主任务延误。这会消耗大量资源。 · 触发时机:当上下文使用超过 80% 窗口时;上下文偏离轨道需重置时;或在新会话中引用旧会话时。 · CAMEL 实现:提供三种方式——自动基于 tokens 阈值的总结、手动 API 调用,以及智能体可用的工具包总结。总结过程依赖精心设计的提示,提取关键信息如用户主要请求、剩余任务和当前进度。同时,保留最小用户消息以减少对 LLM 总结的依赖,避免潜在不准确。 · 益处:帮助智能体快速恢复焦点,减少无关细节的干扰。 2. 工作流内存(Workflow Memory):从过去经验中学习 · 问题与用途:智能体在重复任务中往往重复努力,例如编译免费机器学习书籍列表时,每次都需解决 archive. org 的访问问题,却无法保留经验。 · 核心设计:工作流内存是过去任务的结构化总结,包括任务标题(简短通用)、任务描述(用户目标摘要,无实现细节)、解决步骤(编号通用行动)、工具列表(用途说明)、故障恢复策略(可选)、笔记观察(可选)和标签(3-10个,用于分类和匹配)。 · 加载机制:开发者可指定会话,或基于智能体角色加载文件;智能体从工作流列表中选择最相关的 N 个(避免使用 RAG 以保持简单)。 · 研究应用:文章提到,该方法在网络导航任务中经测试显著提升性能,并引用相关论文。 · 益处:使智能体能复用经验,提高重复任务的效率。 3. 工具输出缓存(Tool Output Caching):一个警示性尝试 · 问题与用途:工具输出(如网页搜索结果或文件内容)往往冗长(如4250字符的搜索结果),长期保留在上下文中会导致 tokens 爆炸式增长。 · CAMEL 实现:监控超过2000字符的输出,将旧输出存储在外部文件(如 Markdown),上下文仅保留引用 ID 和预览(前160字符)。提供检索全输出的指令。 · 挑战与风险:尽管能节省 tokens,但可能导致信息丢失(智能体依赖预览忽略细节)和认知负担增加(需跟踪ID、判断是否检索)。文章视其为权衡效率与准确的尝试,已在CAMEL中回滚,需要进一步优化。 · 益处与警示:适合处理大输出,但需谨慎,以防降低性能。

专注 - Context Engineering, AI(Coding)Agents. 分享 - AI papers, apps and OSS. ex Microsoft MVP 合作 - 私信/邮箱:shaomeng@outlook.com 📢 公众号/小红书: AI 启蒙小伙伴 🔗 信息卡提示词 🔽

avatar for meng shao
meng shao
Sat Nov 08 01:22:37
RT @robwalling: How’s this for a möbius strip?

.@arvidkahl’s tool @podscanfm surfaced this mention of me on the Business of Laravel podcas…

RT @robwalling: How’s this for a möbius strip? .@arvidkahl’s tool @podscanfm surfaced this mention of me on the Business of Laravel podcas…

Building https://t.co/od97B0HVrk and https://t.co/666FnyVVE0 in Public. Raising all the boats with kindness. 🎙️ https://t.co/6w69DZmi8H · ✍️ https://t.co/lpnor5rsTW

avatar for Arvid Kahl
Arvid Kahl
Sat Nov 08 01:21:14
RT @dominiksumer: white border with a subtle box shadow 🤌

RT @dominiksumer: white border with a subtle box shadow 🤌

building @snappify_io & @VemetricHQ

avatar for Dominik Sumer ✨
Dominik Sumer ✨
Sat Nov 08 01:20:16
RT @tbpn: Defense primes only spend 2% on research and development, and are focused on constantly maintaining the status quo.

That is not…

RT @tbpn: Defense primes only spend 2% on research and development, and are focused on constantly maintaining the status quo. That is not…

Co-Founder, American Dynamism. General Partner @a16z. Catholic. Mother. American. 🇺🇸 🚀💪

avatar for Katherine Boyle
Katherine Boyle
Sat Nov 08 01:17:58
Thread

Thread

I eat tornadoes for breakfast. i've been using this username for 15+ years and i will not give it to you. whatever/just dont call me late to dinner

avatar for the government man
the government man
Sat Nov 08 01:15:15
What a tweet 🖤

What a tweet 🖤

Founder @oddtalesgames Directing The Last Night @TLN_Game Art Direction, Cinematography, Tech Art. Atoms, Bits, Memes, Genes. Freedom, Futurism, Humanism.

avatar for Tim Soret
Tim Soret
Sat Nov 08 01:13:53
  • Previous
  • 1
  • More pages
  • 506
  • 507
  • 508
  • More pages
  • 2131
  • Next