上下文工程2.0：上下文工程的上下文 這篇論文提出了一個重要觀點：上下文工程(Context Engineering) 並非近年才出現的新概念，而是發展了20多年的領域。論文將其演進劃分為四個階段，並重點分析了1.0 和2.0 時代的特徵。 論文網址：https://arxiv.org/pdf/2510.26493文工程的本質是一個"熵減"過程。人類之間交流時,可以依靠共同知識、情感暗示和情境意識來"填補空白"。但機器目前還缺乏這種能力，因此我們必須為它們"預處理"上下文－將高熵的原始資訊壓縮成機器能理解的低熵表示。 論文給出的正式定義是：上下文是"任何可用於描述與使用者和應用程式互動相關的實體狀況的資訊"，而上下文工程則是"系統地設計和優化上下文收集、儲存、管理和使用的過程"。 四個發展階段 1.0 時代(1990年代-2020年)：原始計算時代· 機器智能水準低，只能處理結構化輸入· 人類必須將意圖"翻譯"成機器可讀的格式· 代表系統：Context Toolkit、位置感知應用· 上下文主要來自感測器(GPS、時鐘等) 2.0 時代(2020年至今)：智能體時代· 大語言模型的出現標誌著轉折點· 機器開始理解自然語言，能處理模糊和不完整的信息· 代表系統：ChatGPT、LangChain、AutoGPT · 上下文包括對話歷史、檢索文件、工具API 等 3.0 時代(未來)：人類級智能· 系統將具備類人的推理和理解能力· 能感知社交線索、情感狀態等複雜上下文· 實現真正自然的人機協作 4.0 時代(推測性)：超人智能· 機器將超越人類能力，擁有"上帝視角" · 不再被動適應人類定義的上下文，而是主動建構新上下文· 發現人類未明確表達的隱藏需求 設計考量- 情境工程的三個核心維度 1. 上下文收集與儲存· 最小充分原則：只收集和儲存必要的資訊· 語意連續性原則：保持意義的連續性而非資料的連續性· 儲存策略從本地文件系統演進到分層架構(短期快取+長期資料庫+雲端儲存) 2. 上下文管理幾種常見的文本上下文處理方法: · 時間戳標記：簡單但缺乏語意結構· 功能標籤：按角色(如"目標"、"決策"、"行動")組織資訊· 問答對壓縮：適合檢索但打斷思維流· 層次化筆記：樹狀結構，但難以表達因果關係 對於多模態上下文: · 將不同模態映射到共享向量空間· 使用自註意力機制聯合處理· 透過交叉注意力讓一種模態關注另一種模態 3. 上下文使用· 系統內共享：透過提示嵌入、結構化訊息或共享記憶體· 跨系統共享：使用適配器轉換或共享表示(JSON、自然語言摘要、語義向量) · 上下文選擇：基於語意相關性、邏輯依賴、時效性、頻率等因素 實際應用案例· Gemini CLI：透過GEMINI. md 檔案管理專案情境,支援層次化繼承· 通義DeepResearch：處理開放式研究任務，定期壓縮長交互歷史· 腦機介面：直接捕捉神經訊號，收集注意力、情感狀態等內部認知狀態 關鍵挑戰· 終身情境的儲存瓶頸：如何在資源限制下保留盡可能多的相關上下文· 長上下文的處理退化：Transformer 的O(n²) 複雜度導致效率和品質問題· 系統穩定性：隨著記憶累積，小錯誤可能產生廣泛影響· 評估困難：缺乏矛盾、追溯推理鏈的機制
