万字详解:AI Agent 系统架构设计
进阶知识篇 · 工具层、行动层与推理层
1. 设计主动智能系统(一):智能体架构
架构概览
主动智能系统在三个逻辑层面上运作:工具层、推理层和行动层。
- 每一层在使智能体能够有效检索、处理和行动信息方面都扮演特定角色。
- 理解这些层之间的交互对于设计功能性和可扩展的系统至关重要。

三层分别承担什么职责?
- 工具层: 系统的基础。此层与外部数据源和服务交互,包括 API、向量数据库、操作数据、知识库和用户交互。它负责获取系统所依赖的原始信息。设计良好的工具确保智能体高效检索相关且高质量的数据。
- 行动层: 有时也称作编排层。此层负责协调大语言模型与外部世界之间的交互。在适用情况下,它还处理与用户的交互。它接收来自 LLM 的下一步行动指令,执行该行动,再将结果提供给推理层。
- 推理层: 系统智能的核心。此层使用 LLM 处理检索到的信息,根据上下文、逻辑和预设目标决定智能体接下来需要做什么。推理不充分可能造成重复查询或行动不一致。
为了准确起见,主动智能系统中的推理并不总是由 LLM 执行。 例如,Roomba 吸尘器属于不使用 LLM 的主动智能系统示例。本页仅聚焦基于 LLM 的主动智能系统。
主动智能工作流程

2. 设计主动智能系统(二):记忆和状态
短期记忆 保留当前任务需要的消息和结果;** 长期记忆** 保留经过确认、允许跨会话使用的信息;** 业务状态** 记录订单、审批或工单处于哪个阶段。这三者应该分别管理。
| 对象 | 示例 | 何时清理 |
|---|---|---|
| 当前上下文 | 最近问题、工具返回摘要 | 任务结束或超出预算时 |
| 长期资料 | 已确认偏好、知识条目 | 到期、撤回授权或内容失效时 |
| 业务状态 | 待审批、已执行、失败 | 按业务留存规则 |
3. 设计主动智能系统(三):工具契约
工具描述写清用途、输入类型、返回结构和错误语义。将查询与写操作拆开。工具结果包含 ok、data 或 error,使编排层能够判定成功,而不需要从一段自然语言里猜。
json
{"ok":false,"error":{"code":"TIMEOUT","retryable":true},"request_id":"demo-001"}模型可以建议重试,执行器仍然负责次数上限和总时间限制。相同写请求需要幂等键,避免网络重试造成重复退款或重复创建工单。
4. 设计主动智能系统(四):评测与可观测性
记录任务编号、工具名称、参数摘要、耗时、错误和结束原因。对外展示可读的阶段状态,对内保留可诊断的轨迹。不要把调试日志中的密钥和用户私密内容直接显示给终端用户。
一张架构图的验收方法
拿“查订单失败后转人工”走一遍:输入从哪里来,状态存哪里,谁决定转人工,工具失败如何表示,人工能拿到什么上下文。每个问题都能在图上找到位置,架构才真正连起来。
内容依据:用户提供的第 8 张参考图。保留其可见结构、概念和案例,截图未显示的步骤为教学补写。原图作者与历史标注见下方对照。
查看参考原图 · 完整保留截图中的图表与可见文字
