AI 智能体架构：可靠工作流的组成部分

AI 智能体 架构是围绕模型设计的软件系统，包括状态、检索、工具、编排、安全和评估。好的架构会让不确定性和失败可见，而不是把它们隐藏在聊天界面后面。

研究与披露: 本文的架构建议参考以下官方资料：OpenAI, Anthropic, LangChain, NIST。资料查阅于 2026 年 9 月 2 日。

参考分层

状态与记忆

把一次运行的临时状态与长期项目记忆分开。检索到的事实要保存来源和时间戳。没有审核或来源政策，不要把模型之前的回答当作权威记忆。

要区分架构和工作流，可以参考 智能体工作流 指南：架构描述系统边界，工作流描述系统执行的有序工作。

工具边界

提供范围狭窄的函数，不要暴露不受限制的凭据。执行前验证参数，设置超时，对发送、删除、购买或修改权限等操作要求确认。使用幂等键，避免重试造成重复副作用。

检索与 事实依据

只检索用户有权访问的内容。把来源标识放入模型上下文，并要求结果带引用或证据字段。检索为空或存在冲突时，返回升级状态，而不是自行填补缺口。

从可撤销的小范围开始

先做一个只读任务，再增加写入权限。基于来源生成 简报 或分类结果可以提供有用的运行轨迹，同时避免不可逆风险。每次只增加一个工具，并记录它的权限边界。

请求与响应契约

为每一层定义契约。请求应包含目标、用户身份、允许的来源和预算；响应应包含状态、结构化结果、引用、工具调用，以及仍需审核的内容。

{
  "status": "needs_review",
  "claims": [],
  "sources": [],
  "open_questions": ["批准的数据集中缺少最新季度。"]
}

明确的状态比一段隐藏缺失来源的流畅文字更安全。

评估与运维

准备正常、不完整、恶意和多语言测试案例。跟踪工具错误、升级率、延迟、成本和审核修正。Prompt、工具、模型设置和策略应一起做版本管理。

上线检查清单

• 每次工具调用和模型版本都有可回放轨迹
• 测试与生产使用不同凭据和数据
• 写入操作具备幂等性和回滚路径
• 每次 Prompt 或模型变更前运行评估案例
• 有人负责接收升级并复盘事故

同步、异步与人工检查点

短分类可以同步完成。长时间检索或文档生成应异步运行，并提供进度和取消功能。不可逆操作之前，以及置信度、权限或策略检查失败时，应设置人工检查点。将审核决定保存为运行状态，避免重试时丢失上下文。

成本与延迟预算

限制模型轮次、工具调用、token 和总耗时。简单提取可以交给较小模型，把成本较高的推理留给模糊情况。预算既是运营控制，也是对用户的产品承诺：工作流应明确何时停止并请求帮助。

常见问题

需要多 Agent 架构吗？

不需要。先从一个 Agent 和明确工具开始。只有当角色、权限或评估标准真正不同，才增加多个 Agent。

安全应该放在哪一层？

所有层都需要：身份、检索、工具权限、密钥、日志和人工审核。安全不是最后才添加的一项检查。

如何减少幻觉？

改进来源选择，限制输出格式，要求证据，并让不确定性触发实际处理。Prompt 文字本身不是完整控制措施。

第一个原型应该做什么？

选择一个边界清晰、操作可撤销且有明确审核人的工作流。先验证控制路径，再增加工具。