Keep on to blur preview images; turn off to show them clearly
洗脑你的智能体：我们如何保持内存清洁 来自 @CamelAIOrg 团队，焦点在于上下文工程，即通过优化智能体的内存管理来提升其性能和效率。作者 @Hesamation 强调，智能体并非真正“遗忘”，而是由于上下文未得到有效管理导致的。开发者可以通过控制上下文内容来显著影响智能体的“智能”水平。 介绍了 CAMEL 框架中三种用于保持内存“清洁”的技术：上下文总结、工作流内存和工具输出缓存。这些方法为了解决智能体在处理任务时常见的上下文膨胀问题，从而提高效率并降低成本。 为什么需要内存管理 在智能体的工作流程中，常见问题包括任务偏离轨道、重复劳动和工具输出过载。这些会导致上下文窗口快速填满，消耗大量 tokens 和时间。 三种关键技术 1. 上下文总结（Context Summarization）：保留核心内容 · 问题与用途：智能体有时会陷入“支线任务”，如在构建一个文本转表情符号应用时，过度纠结于数据库调试，导致主任务延误。这会消耗大量资源。 · 触发时机：当上下文使用超过 80% 窗口时；上下文偏离轨道需重置时；或在新会话中引用旧会话时。 · CAMEL 实现：提供三种方式——自动基于 tokens 阈值的总结、手动 API 调用，以及智能体可用的工具包总结。总结过程依赖精心设计的提示，提取关键信息如用户主要请求、剩余任务和当前进度。同时，保留最小用户消息以减少对 LLM 总结的依赖，避免潜在不准确。 · 益处：帮助智能体快速恢复焦点，减少无关细节的干扰。 2. 工作流内存（Workflow Memory）：从过去经验中学习 · 问题与用途：智能体在重复任务中往往重复努力，例如编译免费机器学习书籍列表时，每次都需解决 archive. org 的访问问题，却无法保留经验。 · 核心设计：工作流内存是过去任务的结构化总结，包括任务标题（简短通用）、任务描述（用户目标摘要，无实现细节）、解决步骤（编号通用行动）、工具列表（用途说明）、故障恢复策略（可选）、笔记观察（可选）和标签（3-10个，用于分类和匹配）。 · 加载机制：开发者可指定会话，或基于智能体角色加载文件；智能体从工作流列表中选择最相关的 N 个（避免使用 RAG 以保持简单）。 · 研究应用：文章提到，该方法在网络导航任务中经测试显著提升性能，并引用相关论文。 · 益处：使智能体能复用经验，提高重复任务的效率。 3. 工具输出缓存（Tool Output Caching）：一个警示性尝试 · 问题与用途：工具输出（如网页搜索结果或文件内容）往往冗长（如4250字符的搜索结果），长期保留在上下文中会导致 tokens 爆炸式增长。 · CAMEL 实现：监控超过2000字符的输出，将旧输出存储在外部文件（如 Markdown），上下文仅保留引用 ID 和预览（前160字符）。提供检索全输出的指令。 · 挑战与风险：尽管能节省 tokens，但可能导致信息丢失（智能体依赖预览忽略细节）和认知负担增加（需跟踪ID、判断是否检索）。文章视其为权衡效率与准确的尝试，已在CAMEL中回滚，需要进一步优化。 · 益处与警示：适合处理大输出，但需谨慎，以防降低性能。
专注 - Context Engineering, AI(Coding)Agents. 分享 - AI papers, apps and OSS. ex Microsoft MVP 合作 - 私信/邮箱：shaomeng@outlook.com 📢 公众号/小红书: AI 启蒙小伙伴 🔗 信息卡提示词 🔽
RT @robwalling: How’s this for a möbius strip? .@arvidkahl’s tool @podscanfm surfaced this mention of me on the Business of Laravel podcas…
Building https://t.co/od97B0HVrk and https://t.co/666FnyVVE0 in Public. Raising all the boats with kindness. 🎙️ https://t.co/6w69DZmi8H · ✍️ https://t.co/lpnor5rsTW
RT @dominiksumer: white border with a subtle box shadow 🤌
building @snappify_io & @VemetricHQ
RT @tbpn: Defense primes only spend 2% on research and development, and are focused on constantly maintaining the status quo. That is not…
Co-Founder, American Dynamism. General Partner @a16z. Catholic. Mother. American. 🇺🇸 🚀💪
Thread
I eat tornadoes for breakfast. i've been using this username for 15+ years and i will not give it to you. whatever/just dont call me late to dinner
What a tweet 🖤
Founder @oddtalesgames Directing The Last Night @TLN_Game Art Direction, Cinematography, Tech Art. Atoms, Bits, Memes, Genes. Freedom, Futurism, Humanism.