35MM.COFFEEa site built for app makers
Profile
limboy

大约 13 小时前

本文由 Manus 的开发者 Yichao 'Peak' Ji 撰写,分享了在构建 AI Agent(智能体)过程中关于“上下文工程”(Context Engineering)的核心经验。作者指出,相比于耗时且难以迭代的端到端模型微调,Manus 选择基于前沿模型的上下文学习能力进行构建,通过优化上下文结构来实现快速迭代。

文章总结了六大核心原则:

  1. 围绕 KV-Cache 设计:KV-Cache 命中率是生产环境的关键指标,直接影响延迟和成本。开发者应保持 Prompt 前缀稳定、采用“仅追加”模式并明确缓存断点。
  2. 掩码而非删除:面对庞大的工具库,不应动态删除工具(这会破坏缓存并导致模型困惑),而应通过 Logit 掩码(Masking)在解码阶段限制动作空间。
  3. 将文件系统视为上下文:针对长上下文导致的性能下降和高成本,Manus 将文件系统作为外部持久化存储,让模型按需读写,实现可恢复的上下文压缩。
  4. 通过“背诵”操纵注意力:利用如 todo.md 的任务列表,让模型在长任务中不断重申目标,防止注意力漂移。
  5. 保留错误记录:不要清理失败的尝试,错误记录是模型学习和自我修正的关键证据。
  6. 避免过度 Few-shot:过多的同质化示例会导致模型陷入行为模式的死循环,应引入结构化变体以增强鲁棒性。

作者强调,上下文工程是定义 Agent 行为、效率和扩展能力的关键,是构建智能体未来的基石。