在人工智能快速发展的今天，构建真正有效的 AI 智能体远比选择一个强大的语言模型复杂得多。经过深入的实践探索和系统性研究，我们发现智能体的"上下文架构"设计直接决定了系统的响应速度、运行成本、稳定性以及整体智能水平。这种被称为"上下文工程"的方法论，正在成为 AI 智能体开发领域的核心竞争力。

传统的 AI 模型开发往往依赖于耗时的微调过程，从训练到部署可能需要数周甚至数月的时间。然而，基于上下文学习的智能体开发方法彻底改变了这一现状，使得系统改进可以在几小时内完成并投入使用。这种敏捷的开发模式不仅提高了迭代效率，更重要的是让产品能够快速适应不断演进的 AI 技术能力。

但是，这条看似直接的技术路径实际上充满了挑战。在实际开发过程中，Manus 经历了多次架构重构，每一次都是对上下文设计理解的深化。这个过程可以形象地称为"随机梯度下降"——通过不断的实验、试错和优化，逐步逼近最优解。

经过大量的实践验证和理论总结，Manus 提炼出了智能体上下文工程的六大核心策略。这些策略不仅在理论上具有坚实的基础，更在数百万用户的真实使用场景中得到了验证。

策略一：构建缓存友好的上下文架构

在智能体系统的性能优化中，键值缓存（KV-Cache）机制的重要性怎么强调都不为过。这一机制直接影响着系统的响应延迟和计算成本，在某些场景下，优化后的缓存命中率可以带来高达十倍的成本节约。

智能体系统与传统的对话式 AI 在工作模式上存在根本差异。传统对话系统通常处理相对简短的用户输入并生成相应的回复，而智能体系统则需要在每个执行周期中处理大量的上下文信息。在典型的智能体运行过程中，系统会持续地将执行的动作和观察到的结果追加到上下文中，这使得输入内容的长度远远超过输出内容。根据实际统计数据，这种输入输出的比例通常达到 100:1 的水平。

这种极不平衡的输入输出比例使得缓存机制变得至关重要。当系统能够有效利用相同的上下文前缀时，KV-cache 可以显著减少重复计算，从而大幅降低首个 token 的生成时间和整体推理成本。以 Claude Sonnet 模型为例，启用缓存的输入 token 成本仅为 0.30 美元每百万 token，而未缓存的成本则高达 3 美元每百万 token，两者相差十倍之多。

围绕 KV-Cache 设计

要实现高效的缓存利用，需要在系统设计层面遵循几个关键原则。首先是保持提示前缀的稳定性。由于大型语言模型的自回归特性，即使是单个 token 的微小变化也会导致该位置之后的所有缓存失效。一个常见的错误是在系统提示的开头包含精确到秒的时间戳。虽然这样做可以让模型了解当前时间，但却会完全破坏缓存的命中率。

其次是确保上下文的仅追加特性。系统应该避免修改之前记录的动作或观察结果，同时必须保证数据序列化的确定性。许多编程语言和库在序列化 JSON 对象时不能保证键的排序稳定性，这种看似微不足道的差异实际上会静默地破坏缓存机制。

第三个关键点是合理设置缓存断点。某些模型提供商或推理框架不支持自动的增量前缀缓存，而是需要在上下文中手动插入缓存断点。在设置这些断点时，需要考虑潜在的缓存过期问题，并至少确保断点包含系统提示的结尾部分。

对于选择自托管模型的开发者，还需要确保使用的推理框架（如 vLLM）启用了前缀缓存功能，并采用会话 ID 等技术来确保请求在分布式工作节点间的一致性路由。

策略二：实施智能化的工具管理机制

随着 AI 智能体功能的不断扩展，其可用工具的数量也在急剧增长。这种增长虽然为智能体带来了更强的能力，但同时也带来了一个意想不到的副作用：动作空间的复杂化可能会降低智能体的决策质量。当面临过多选择时，模型更容易选择错误的动作或采取低效的执行路径，这种现象可以形象地称为智能体的"选择困难症"。

面对这一挑战，一个直观的解决方案是实施动态工具加载机制——根据当前任务的需要，动态地添加或移除可用工具。这种方法在理论上似乎很合理，但在实际应用中却会带来两个严重问题。

第一个问题是缓存失效。在大多数语言模型的实现中，工具定义通常位于上下文的前端，紧邻系统提示。任何对工具定义的修改都会导致后续所有动作和观察记录的 KV-cache 失效，从而抵消了前面提到的缓存优化带来的性能提升。

第二个问题是上下文一致性的破坏。当系统动态移除某些工具时，之前的动作和观察记录中可能仍然包含对这些已不存在工具的引用。这种不一致性会让模型感到困惑，影响其对当前情况的理解和后续决策的准确性。

为了解决这些问题，我们采用了一种更加优雅的方案：基于上下文感知的工具掩码机制。这种方法不是物理地添加或移除工具定义，而是通过在解码阶段对特定 token 的 logits 进行掩码处理，来控制模型对不同工具的选择倾向。

基于上下文感知的工具掩码机制

具体来说，系统会维护一个上下文感知的状态机，该状态机根据当前的任务状态、执行历史和环境条件来确定哪些工具应该被激活或抑制。当模型尝试选择某个被标记为不适用的工具时，掩码机制会降低相应 token 的概率，从而引导模型选择更合适的替代方案。

这种方法的优势在于它保持了工具定义的稳定性，避免了缓存失效问题，同时通过概率调节而非硬性限制的方式来影响模型的选择，使得整个系统更加灵活和鲁棒。此外，由于所有工具定义始终存在于上下文中，模型能够保持对完整能力集合的认知，这有助于其做出更加明智的决策。

策略三：利用文件系统实现上下文的无限扩展

尽管现代大型语言模型的上下文窗口已经扩展到了 128K 甚至更多的 token，但在实际的智能体应用中，这个看似庞大的容量仍然面临着严峻的挑战。现实世界中的数据往往具有极高的信息密度：一个复杂的网页可能包含数万个 token，一份详细的 PDF 文档可能轻易超过上下文窗口的限制。更重要的是，随着上下文长度的增加，模型的处理效率会显著下降，推理成本也会急剧上升。

传统的解决方案通常依赖于信息压缩技术，试图通过摘要、筛选或其他方式来减少需要保存在上下文中的信息量。然而，这种不可逆的压缩过程存在一个根本性的风险：我们无法预知哪些看似不重要的信息在后续的执行步骤中可能变得至关重要。一旦这些信息被丢弃，智能体就失去了访问它们的能力，这可能导致决策质量的下降或任务执行的失败。

面对这一挑战，我们提出了一个创新的解决方案：将文件系统视为智能体的扩展上下文存储。这种方法的核心思想是将文件系统转化为一个结构化的、可按需访问的外部记忆系统。

文件系统作为扩展上下文

在这个架构中，智能体学会了一套完整的文件操作技能：它可以将重要的观察结果、中间计算数据、参考资料等信息写入到文件中进行持久化存储，也可以在需要时从文件中读取之前保存的信息。这种能力使得智能体能够处理远超其直接上下文窗口限制的复杂任务。

更重要的是，我们采用的压缩策略都是可恢复的。例如，当处理一个网页时，系统可能会保留页面的 URL 和关键元数据，但将详细的页面内容保存到文件中。这样既减少了上下文的占用，又保证了信息的完整性和可访问性。当后续步骤需要这些详细信息时，智能体可以通过读取相应的文件来获取。

这种方法带来了多重优势。首先，它有效地突破了上下文长度的物理限制，使得智能体能够处理任意复杂度的任务。其次，通过将大量数据存储在文件系统中而非上下文中，系统能够维持较高的处理效率和较低的运行成本。最后，文件系统的持久化特性还为智能体提供了跨会话的记忆能力，使得长期任务的执行成为可能。

在实际实现中，我们为智能体配备了一套标准化的文件操作接口，包括创建、读取、写入、追加、删除等基本操作。智能体通过学习何时以及如何使用这些操作，逐步发展出了高效的信息管理策略。这种学习过程不需要额外的训练，而是通过上下文学习自然地涌现出来。

策略四：通过目标复述实现注意力的精准引导

在复杂的多步骤任务执行过程中，智能体面临着一个与人类相似的挑战：如何在处理大量细节信息的同时保持对整体目标的清晰认知。随着任务执行的深入，上下文中会积累越来越多的具体操作记录和观察数据，这些信息虽然对当前步骤很重要，但可能会稀释智能体对长期目标的关注度。

目标复述

这种现象在 AI 研究中被称为"迷失在中间"问题。当关键信息被埋没在大量的上下文数据中时，模型的注意力机制可能无法有效地识别和利用这些信息，导致决策质量的下降或目标偏离。

为了解决这个问题，我们开发了一种基于目标复述的注意力引导机制。这种方法的核心思想是让智能体定期地、明确地重新表述其当前的目标、已完成的进展以及下一步的计划。

具体实现上，我们引入了一个特殊的文件——todo.md，智能体需要在执行过程中持续更新这个文件。这个文件不仅仅是一个简单的任务清单，更是智能体自我反思和目标重新聚焦的工具。每当智能体完成一个重要步骤或遇到关键决策点时，它都会更新这个文件，重新梳理当前的状态、剩余的任务以及执行策略。

这种机制的巧妙之处在于它利用了语言模型的自然特性。当智能体在上下文的末尾重新表述其目标和计划时，这些信息会获得模型注意力机制的优先关注。由于 Transformer 架构中位置编码的特性，上下文末尾的信息通常会对模型的输出产生更大的影响。

更重要的是，这种复述过程不仅仅是简单的信息重复，而是一个主动的认知整理过程。在重新表述目标的过程中，智能体需要综合考虑已有的信息、当前的状态以及未来的计划，这个过程本身就有助于提高决策的质量和一致性。

我们的实践表明，这种方法在多个方面都带来了显著的改善。首先，它有效地缓解了目标偏离问题，使得智能体能够在长期任务中保持方向的一致性。其次，它提高了智能体的自我监控能力，使其能够更好地识别和纠正执行过程中的错误。最后，它还增强了系统的可解释性，因为 todo.md 文件为用户提供了一个清晰的窗口来了解智能体的思考过程和执行计划。

这种方法的另一个优势是它不需要对模型架构进行任何修改，完全通过上下文工程来实现。这使得它可以轻松地应用到各种不同的语言模型和智能体框架中，具有很强的通用性和实用性。

策略五：建立基于错误经验的自适应学习机制

在传统的软件系统设计中，错误通常被视为需要立即清除的异常状态。开发者的本能反应是捕获错误、记录日志、清理状态，然后重新尝试执行。这种处理方式在确定性的程序逻辑中是合理的，但在智能体系统中，这种做法可能会无意中阻碍系统的学习和改进过程。

智能体在执行复杂任务时不可避免地会遇到各种错误：API 调用失败、数据格式不匹配、逻辑推理错误、环境状态变化等。面对这些错误，传统的处理方式是尽快清理错误痕迹，重置系统状态，然后重新开始。然而，这种"健忘"的处理方式实际上剥夺了智能体从错误中学习的机会。

我们的研究发现，将错误信息保留在上下文中不仅不会降低系统性能，反而能够显著提升智能体的适应能力和决策质量。当智能体能够"看到"自己之前的错误尝试以及相应的失败结果时，它的内部表征会发生微妙但重要的调整。

错误经验的自适应学习机制

这种学习过程是隐式的，不需要额外的训练或参数更新。语言模型通过观察错误的动作序列和相应的负面结果，会自然地降低对类似动作的选择倾向。这种机制类似于人类的经验学习：当我们看到某种行为导致了不良后果时，我们会在类似情况下避免重复这种行为。

更重要的是，错误信息的保留为智能体提供了丰富的上下文信息，帮助它更好地理解当前环境的约束和特性。例如，如果智能体多次尝试调用某个 API 都失败了，这些失败记录会帮助它意识到该 API 可能暂时不可用，从而选择替代方案。如果没有这些错误记录，智能体可能会反复尝试相同的失败操作。

我们将这种从错误中恢复的能力视为真正智能行为的重要指标。一个能够识别、分析并从自己的错误中学习的系统，展现出了远超简单任务执行的认知能力。这种能力不仅提高了系统的鲁棒性，也使得智能体能够处理更加复杂和不确定的环境。

在实际实现中，我们采用了一种平衡的方法。并不是所有的错误信息都需要无限期地保留在上下文中，这样会导致上下文长度的无限增长。相反，我们会根据错误的类型、严重程度以及学习价值来决定保留策略。对于具有高学习价值的错误，我们会将其保留较长时间；对于简单的临时性错误，我们可能会在一定时间后将其移除或压缩。

这种方法还带来了一个意外的好处：它提高了系统的可调试性。当智能体出现问题时，开发者可以通过查看错误历史来更好地理解问题的根源和演化过程，这对于系统的持续改进非常有价值。

策略六：通过多样性控制避免行为模式固化

少样本学习（Few-shot Learning）是大型语言模型的一项核心能力，它使得模型能够通过观察少量示例来快速掌握新的任务模式。然而，在智能体系统中，这种强大的模仿能力有时会产生意想不到的副作用。

语言模型本质上是优秀的模式识别和复制系统。当上下文中充满了相似的动作-观察序列时，模型会自然地倾向于延续这种模式，即使这种模式在当前情况下已经不再是最优选择。这种现象在处理重复性任务时尤为明显。

例如，当智能体被要求处理一批相似的文档时，它可能会在处理前几个文档后形成一种固定的操作模式，然后机械地将这种模式应用到后续的所有文档上，而不考虑每个文档的具体特点和差异。这种行为模式的固化可能导致效率下降、错误累积，甚至出现幻觉现象。

多样性控制

更危险的是，这种模式固化往往是渐进的和隐蔽的。智能体不会突然停止工作或产生明显的错误，而是会逐渐偏离最优的执行路径，产生一种被称为"行为漂移"的现象。这种漂移很难被及时发现，但会持续地影响系统的整体性能。

为了解决这个问题，我们开发了一种基于控制性多样性的解决方案。这种方法的核心思想不是消除模式学习能力，而是通过引入适度的变化来防止模式的过度固化。

具体实现上，我们在智能体的上下文生成过程中引入了多种形式的结构化变化。这些变化包括：不同的数据序列化模板、多样化的表达方式、轻微的格式调整等。这些变化都是精心设计的，既要足够明显以打破固化的模式，又要足够微妙以不影响核心信息的传达。

例如，在记录执行结果时，系统可能会交替使用不同的描述模板："操作完成，结果为 X"、"执行成功，获得结果 X"、"任务完成，输出 X"等。这些表达在语义上是等价的，但在形式上的差异有助于保持模型注意力的灵活性。

这种方法的巧妙之处在于它利用了语言模型对细微变化的敏感性。即使是很小的表达差异也会影响模型的内部表征，从而打破可能形成的僵化模式。这种"有益的噪声"帮助智能体保持认知的灵活性，使其能够根据具体情况做出更加适应性的决策。

我们的实验表明，这种多样性控制机制在多个方面都带来了显著的改善。首先，它有效地减少了行为漂移现象，使得智能体在处理长序列任务时能够保持稳定的性能。其次，它提高了系统对环境变化的适应能力，使得智能体能够更好地处理异常情况和边界案例。最后，它还增强了系统的创新能力，使得智能体在面对新问题时能够探索多种不同的解决方案。

需要注意的是，多样性的引入必须是控制性的和有目的的。过度的随机性可能会破坏系统的一致性和可预测性，因此需要在多样性和稳定性之间找到适当的平衡点。这个平衡点的确定需要根据具体的应用场景和性能要求进行调整。

总结与展望

上下文工程作为 AI 智能体开发的新兴学科，正在重新定义我们对智能系统构建的理解。虽然这个领域仍在快速发展中，但其重要性已经得到了充分的验证。无论语言模型变得多么强大、快速或经济，原始的计算能力都无法替代精心设计的系统架构在内存管理、环境交互和反馈学习方面的重要作用。

我们在实践中总结的六大核心策略——缓存优化架构、智能工具管理、文件系统扩展、注意力引导、错误学习机制以及多样性控制——构成了一个完整的上下文工程方法论体系。这些策略不是孤立的技术手段，而是相互关联、相互支撑的系统性解决方案。

缓存优化架构为系统提供了高效的计算基础，智能工具管理确保了决策的准确性，文件系统扩展突破了容量限制，注意力引导保持了目标的一致性，错误学习机制增强了适应能力，而多样性控制则防止了行为的僵化。这六个策略共同作用，创造出了一个既高效又智能的 AI 助手系统。

上下文架构的设计最终决定了智能体的行为特征：它运行的速度、恢复的效果以及扩展的能力。一个精心设计的上下文架构不仅能够提升系统的技术性能，更重要的是能够赋予智能体更加类人的认知特征，使其能够在复杂多变的环境中展现出真正的智能行为。

这些经验和方法的价值不仅在于它们的技术先进性，更在于它们的实用性和可复制性。它们都是在真实的应用场景中，通过大量的实验、试错和优化过程总结出来的。虽然不同的应用场景可能需要不同的具体实现方式，但这些核心原则具有普遍的适用性。

展望未来，上下文工程领域还有巨大的发展空间。随着语言模型能力的不断提升和应用场景的不断扩展，我们需要开发更加精细化、自适应的上下文管理策略。同时，如何将这些策略与新兴的 AI 技术（如多模态学习、强化学习等）相结合，也是一个值得深入探索的方向。

我们相信，智能体的未来将建立在精心设计的上下文架构之上。每一个成功的 AI 助手背后，都有一套经过深思熟虑的上下文工程方案。掌握这些原则和方法，不仅是构建高效智能体的技术要求，更是推动人工智能技术向更高层次发展的必要条件。

在这个快速发展的时代，让我们共同致力于构建更加智能、更加可靠的 AI 助手系统，为人类社会的数字化转型贡献我们的力量。毕竟，真正的智能不仅体现在模型的参数规模上，更体现在系统架构的精妙设计中。

复盘 Manus 构建经验 - AI 智能体系统的上下文架构