返回案例库案例库

WAIC观察:企业 Agent 落地完整指南

7 月 18 日 WAIC 世界人工智能大会多场企业 AI 专题论坛同步开讲,阿里云、腾讯云均把「企业内部标准化搭建 Agent、实现业务全链路降本增效」作为核心分享主题之一。两家云厂商现场完整披露了各自面向企业应用的 Agent 落地…

2026  WAIC观察

7 月 18 日 WAIC 世界人工智能大会多场企业 AI 专题论坛同步开讲,阿里云、腾讯云均把「企业内部标准化搭建 Agent、实现业务全链路降本增效」作为核心分享主题之一。两家云厂商现场完整披露了各自面向企业应用的 Agent 落地架构、分层工程实现思路、线上运维配套能力。

结合现场厂商分享,当前企业落地 Agent 可参考两大类成熟路线:开源框架自研路线、云厂商 Agent 服务路线(阿里腾讯这类),两条路线核心框架一致,具体的分层逻辑、调用链路、运维约束存在差异,下文会逐层拆解对比,可按需选择。

另外,目前行业还有一类 Harness 工程构建Agent 的方案,核心思路是完全交由大模型自主理解任务、动态编排工作流并执行工具调用。个人认为该模式更适合个人模式的Agent应用,企业生产落地上需要更强的稳定性和安全性,完全由大模型自己主导编排不太可控,这种模式本文暂不做展开。

🏗️ Agent开源框架落地架构

(一) LangGraph|工业级单智能体编排框架

▫️ 四层架构

  1. Workflow/Graph 层:StateGraph 有向状态图,承载完整业务流程,预定义节点跳转、循环、人工中断规则;
  2. Node 服务层:Graph 内独立能力单元(RAG 节点、LLM 节点、工具节点),对应垂直原子业务能力;
  3. Step 执行层:Node 内部 ReAct 单轮推理单元,强制约束 1 Step = 1次LLM调用;
  4. Runtime 执行原子层:Model Wrapper 模型封装 + Tool Registry 全局工具注册中心。

▫️ 端到端完整调用流转

  1. 初始化 Graph:接收业务请求,创建全局强类型 State 状态容器,写入用户入参、全局唯一 TraceID;
  2. Graph 调度器读取 State 流转标记,选中待执行 Node;
  3. Node 读取上下文,启动内部 Step 循环;
  4. 单 Step 组装 Prompt、工具列表,下发 Runtime 执行;
  5. Runtime 完成模型调用、工具执行、输出结构化解析,结果回传给 Step;
  6. Step 更新全局 State,自动判断循环 / 分支 / 终止;
  7. 流程结束后 Graph 汇总 State 输出结果,持久化 State 快照,原生支持断点续跑。

(二)Dify|低代码私有化企业 Agent 平台

▫️ 四层分层定义

  1. 应用 Workflow 画布层:可视化预定义业务流程,对外暴露统一 API,管理全生命周期任务;
  2. 插件 Service 层:全局可复用原子插件(知识库、代码执行、HTTP 工具);
  3. 执行节点 Stage 层:画布最小执行单元,检索 / LLM / 条件分支均为独立固定节点;
  4. 底层引擎 Runner 层:统一模型调度、Prompt 管理、工具网关、日志埋点。

▫️ 端到端完整调用流转

  1. 用户调用应用 API,加载预配置 DAG 拓扑,初始化全局会话变量池;
  2. Workflow 预加载依赖 Service 插件,校验租户、工具访问权限;
  3. 按拓扑顺序串行执行每一个 Stage 节点;
  4. Stage 读取全局变量,组装执行参数下发 Runner;
  5. Runner 完成 Prompt 渲染、模型推理、工具沙箱执行、输出格式校验;
  6. 执行结果回写全局变量池,自动流转至下一节点
  7. 流程结束汇总输出,销毁临时沙箱与会话资源。

(三)AutoGen|多智能体协同五层扩展架构

▫️ 五层分层定义(四层基础 + 专属 A2A 通信层)

  1. GroupChat Workflow:全局多 Agent 总流程,预定义任务终止条件、参与智能体角色;
  2. Agent Service:独立子智能体(检索 Agent、分析 Agent、总结 Agent),各 Agent 拥有专属人设、独立工具权限;
  3. Message Stage:单 Agent 单轮发言推理单元,1 Stage 绑定 1 次 LLM 调用;
  4. Model/Tool Runner:统一底层模型、工具执行底座;
  5. A2A 通信层(独有新增层):全局消息总线,负责 Agent 间消息转发、角色调度、轮次仲裁。

▫️ 端到端完整调用流转

  1. Workflow 初始化 GroupChat 会话,注册全部子 Agent,创建全局消息池;
  2. 用户原始请求写入 A2A 消息总线,通信层按预设规则推选首个执行 Agent;
  3. 目标 Agent Service 读取全局对话消息,进入 Message Stage 推理;
  4. Stage 组装上下文,下发 Runner 执行模型 / 工具调用;
  5. Runner 返回结构化消息,Stage 将本轮输出提交至 A2A 总线;
  6. A2A 层解析消息内容,按预设逻辑判定下一个待执行 Agent,循环调度;
  7. 满足终止条件后,Workflow 汇总全部对话消息对外输出。

☁️ 云厂商 Agent 服务架构

整体特点:云厂商一站式托管,配套成熟存储、观测、权限底座,开箱即用,无需自建底层基础设施。

(一)阿里云 Agent Run|三层合并一体化架构

▫️ 三层分层定义

  1. Orchestration 编排层:可视化预定义 Workflow 画布、对外服务入口,统一管理租户、任务生命周期;
  2. Runtime 调度层(Service+Stage 合并层):内置 State 管理器、步骤执行调度、能力路由;
  3. 能力执行 Runner 层:统一模型网关、MCP 工具沙箱、输出结构化校验;横向配套底座:记忆存储、向量库、观测平台、租户权限治理。

▫️ 端到端完整调用流转

  1. 请求进入编排层,加载预定义业务 DAG 拓扑,生成唯一 runId、初始化会话 State;
  2. 编排层将完整流程拓扑下发 Runtime 调度层;
  3. Runtime 读取 State,自动拆分多步推理单元,循环执行:上下文组装 → 下发 Runner 执行模型 / 工具 → 接收结果更新 State → 判断分支循环;
  4. 全步骤执行完成,Runtime 汇总 State 数据回传给编排层;
  5. 编排层封装业务结果返回,底层底座异步持久化会话记忆、上报全链路监控指标。

(二)腾讯云 Agent Runtime|四层标准分层架构

▫️ 四层分层定义

  1. 业务 Workflow 层:场景化服务入口,统一任务 ID 分发、状态流转、隔离 Workspace;
  2. Skill Service 层:垂直业务原子能力(日志分析、知识库问答、代码评审);
  3. Stage 分步推理层:单轮 LLM 步骤,内置自动重试、人工拦截逻辑;
  4. Agent Runner 执行层:模型路由、MCP 网关、Prompt 模板、分层埋点观测。

▫️ 端到端完整调用流转

  1. 外部请求进入 Workflow,创建隔离 Workspace,预拉取业务依赖资源;
  2. Workflow 调度对应 Skill Service,加载该能力依赖的全部预定义 Stage;
  3. 串行 / 分支执行每一个 Stage,单 Stage 组装上下文后调用 Runner;
  4. Runner 统一执行模型、MCP 工具调用,结构化结果回传 Stage;
  5. Stage 更新会话中间状态,全部步骤完成后结果回传给 Service;
  6. Workflow 汇总所有 Service 输出,销毁隔离 Workspace,持久化任务最终结果。

(三)Microsoft Azure Foundry Agent|六层极致解耦架构

▫️ 六层分层定义

  1. 业务应用层 Workflow:低代码预定义画布、对外 API,定义多 Agent 业务拓扑;
  2. 智能体编排层 Service:封装垂直子 Agent,管理角色、依赖步骤、权限范围;
  3. 推理步骤层 Stage:单轮 LLM 执行单元,负责上下文组装、分支判定;
  4. 模型抽象层:独立模型网关,多模型兼容、负载均衡、推理缓存;
  5. 工具统一协议层 MCP:独立全局网关,工具注册、鉴权、沙箱、跨系统协议转换;
  6. 观测与治理底座层:横向贯穿全层,统一埋点、权限、记忆、LLMOps、成本分账。

▫️ 端到端完整调用流转

  1. 请求进入业务应用层,初始化全局 State、TraceID,加载预定义编排拓扑;
  2. Workflow 调度对应智能体 Service;
  3. Service 遍历内部 Stage,每一步拆分两类调用:纯 LLM 推理 → 下发模型抽象层;需要工具 → 单独路由 MCP 协议层;
  4. 模型层 / MCP 层分别返回结果,Stage 合并数据更新全局 State;
  5. 判定分支、循环逻辑,重复执行 Stage 直至流程完成;
  6. 全六层自动向治理底座上报指标、日志、记忆快照;
  7. 流程结束,Workflow 汇总结果返回,底座同步生成成本账单、持久化用户记忆。

📊 主流架构选型对比总表

四个

🧱 企业落地 Agent 架构的核心模块清单

  1. 顶层流程编排模块

Workflow 拓扑定义引擎:支持预定义 DAG、循环、条件分支、人工中断节点;

任务生命周期管理:JobID 分发、状态流转、隔离 Workspace、资源自动销毁;

统一 API 网关、多租户 / 用户隔离鉴权体系。

  1. 原子能力复用模块

Service 资产注册中心:存储垂直领域子 Agent 元数据、依赖清单、权限白名单;

跨 Workflow 能力调度器,实现原子业务能力全局复用。

  1. 分步推理调度模块

Stage 标准化执行模板,强制约束:1 Stage = 单次LLM调用;

内置自动重试、超时降级、人工审批拦截钩子;

全局统一结构化 State 状态存储,原生支撑断点续跑、故障恢复。

  1. 底层统一执行模块

独立模型抽象网关:多模型路由、负载均衡、Prefix 推理缓存;

独立 MCP 工具协议网关:全局工具注册、统一鉴权、资源沙箱隔离;

Prompt 模板资产中心、输出 Schema 结构化校验组件。

  1. 横向配套底座模块(生产环境必备)

分层记忆存储:会话临时状态、向量长期记忆、关系库用户结构化持久档案;

全链路分层观测平台:分层 Span 埋点、多维度指标、成本统计、异常告警;

LLMOps 运维流水线:资产版本管理、CI 自动化校验、灰度发布、自动化评测。

⚠️ 企业落地 Agent 避坑指南

❌ 选用 Harness 式大模型自主编排方案用于生产:无固定预定义流程约束,工作流逻辑极易跑偏,工具权限、数据安全无法管控,仅适合个人原型验证;

❌ 分层边界耦合:业务编排逻辑写入底层 Runner,后续模型、工具迭代需要修改上层业务代码;

❌ 无统一全局 State 载体:Stage 间零散透传参数,故障无法断点恢复,会话上下文管理混乱;

❌ 单 Stage 多次 LLM 调用:分层成本、耗时无法精准拆分,故障定位难度翻倍;

❌ 工具逻辑内嵌执行层,无独立 MCP 网关:新增业务工具需要改造底层执行代码,复用、管控成本极高;

✍️ 文末

[登录查看剩余 70% 内容](javascript:void (0);)