从可撰写集成到受管代理企业
向 Agentic Enterprise 的过渡代表了自云诞生以来最重要的架构转变。它承诺实现前所未有的生产力和自动化水平,但也带来了与治理、安全和操作复杂性相关的深刻挑战。使用零敲碎打的方法 - 在没有统一策略的情况下将客服人员部署在孤岛中 - 直接导致了技术债务和组织混乱。
在没有中央管理平面的情况下部署客服人员会产生巨大的运营风险,包括直接访问系统带来的安全漏洞、客服人员交互和操作缺乏可观察性,以及冗余点对点集成带来的高成本。这种孤立的部署策略导致环境脆弱,难以大规模管理。可持续模式需要统一的客服人员集成和治理平台。
MuleSoft 提供了一个全面、统一和开放的平台,可以自信地指导企业的整个旅程。它利用企业现有的 API 环境作为客服人员操作的基础,并通过可信的 AI 支持的开发生命周期加快创建新的客服人员就绪资产。通过对开放标准的企业级支持,例如模型上下文协议 (MCP) 和 Agent2Agent (A2A) 协议,它使这些资产可用于简单的命令和复杂的多客服人员协作,无论 AI 环境如何发展。MuleSoft 客服人员结构提供了发现、编排、治理和观察整个客服人员生态系统的解决方案。通过这一综合方法,MuleSoft Agent Fabric为扩大可信 AI 客服人员网络提供了一个经过验证的基础,将 AI 的前景转化为有形的、自动化的业务结果,并充分发挥了智能企业的潜力。
可操作 AI 的可撰写基础
API 主导的连接的既定三层方法 - 系统、流程和体验 API 为构建客服人员的可操作性提供了强大的框架。
- 系统 API 为底层记录系统提供了一致、安全和抽象的接口。它们将客服人员与后端协议和数据模型的复杂性分开,从而确保所有客服人员操作都在受管的可靠端点上执行。
- 进程 API 封装复杂的多步骤业务逻辑。客服人员无需了解创建销售订单、检查库存或启动发货背后的复杂编排。他们可以使用进程 API(例如,“进程订单”),而无需处理潜在的复杂性。进程 API 为客服人员执行业务流程提供了安全的、事务性的和可审计的机制,这大大减少了客服人员所需的推理,并确保了业务规则的一致执行。
- 传统上,体验 API 旨在服务于特定的 UI 应用程序(例如订单管理应用程序 ) ; 但是,它们也可以重新用作客服人员的上下文丰富的操作。这为客服人员提供了执行给定任务的基本信息,而无需多次调用下游系统。
1.生成式创建:加速开发客服人员就绪的资产
为了满足对客服人员就绪工具和功能的不断增长的需求,企业必须加快开发构成可撰写基础的 API 和集成。MuleSoft 通过将生成式 AI 直接嵌入开发生命周期来应对这一挑战,从而创造了一个良性循环,使用 AI 来构建其他客服人员消耗的高质量资产。
1.1 MuleSoft Vibes
对于开发人员来说,MuleSoft Vibes 通过自动化集成开发最重复的方面并为整个软件开发生命周期提供统一的代理界面来充当智能合作伙伴。通过 Anypoint Code Builder 中的 MuleSoft Vibes, 开发人员与受信任 Einstein AI 漏斗支持的生成功能进行交互, 这使得 AI 辅助开发过程平稳高效。该漏斗 - 推理图执行服务 (IGES) 是一个多阶段的过程,用于实现高质量的结果。它包括基础训练、验证、纠错和严格评估。
- MuleSoft Vibes中的生成流能力建立在Agentforce AI框架之上。它将自然语言业务逻辑(用户提示)转换为功能性 Mule 应用程序。IGES 漏斗包含以下步骤:
- **对话历史汇总:**LLM 会分析当前提示和用户先前的消息,以创建汇总提示,从而捕获用户意图和对话历史。此合并提示提高了后续数据检索和生成步骤的准确性。
- **从矢量数据库进行流语义检索:**系统会获取上一步的汇总提示,并对包含 200 多个连接器、7000 多个连接器操作和 7000 多个示例代码片段的向量数据库执行语义搜索。它检索最相关的连接器、操作和代码示例,以使用准确的数据对生成过程进行基础训练,并确保输出与 MuleSoft 广泛的连接器生态系统保持一致。由于 MuleSoft 是连接器和操作的行业标准,因此这种基础训练为模型提供了通用 LLM 所缺乏的丰富的上下文和域准确性。
- **扩充:**然后,检索到的内容和对话历史消息与汇总的提示相结合。这种增强提示引导 LLM 减少幻觉。它还包括防止产生有毒内容的说明。
- **流生成:**该步骤利用 Einstein AI LLM 模型根据上下文和提供的示例生成原始 XML 代码。这是生成漏斗的核心步骤。
- **后期处理和验证:**后处理器和验证器检查代码,以确保语法正确,并使用有效的连接器操作,同时单独的毒性检查标记有害内容。
- **多步骤纠错:**如果所有初始生成无效,自动纠错机制会分析错误消息,以检测模式。然后,它向 LLM 重新提交提示以及丰富的错误消息和纠正元数据。
- **配置文件生成:**此步骤提取相关连接器元数据,增加提示,并将其发送到 LLM,以生成准确的连接器配置。最后,所有 POM 和 XML 命名空间都使用每个依赖项的最新版本来确定地生成,这消除了幻觉并确保了一致性。
- DataWeave 转换生成: 数据转换通常是集成开发中最耗时的部分。MuleSoft Vibes 使用与 Mule Flow XML 生成相似的多步骤方法来处理此过程。
- **意图原因:**LLM 分析用户输入和输出数据示例,以自然语言推断和阐明高级转换逻辑。此步骤会将用户目标与提示中可能提供的文字数据值分开。
- **DataWeave 语义检索:**为了查找语义最相关的 DataWeave 函数文档和完整的转换示例,系统使用上一步生成的提示作为向量数据库的查询。这为生成过程提供了高质量、可验证的信息。
- **扩充:**检索到的函数和示例与原始用户提示相结合,为后续 LLM 调用创建上下文感知指令集,这会影响 LLM 的行为以减少幻觉。
- **DataWeave 生成:**此步骤利用 LLM 模型生成 DataWeave 转换脚本,以及基于提供的上下文和示例的随附解释。这是生成漏斗的核心步骤。
- 后期处理和验证 根据两个特定度量评估生成的脚本:有效性和正确性。该脚本必须在没有语法错误(有效性)的情况下编译,并在使用示例输入(正确性)运行时产生预期输出。
- **多步骤纠错:**如果初始验证失败,此插件会识别错误类别,并更正生成的脚本中的问题。这种细化有助于提高系统的整体成功率和准确性。
- 最终后期处理和验证 来自纠错模块的已更正脚本经过重新验证过程,以确保它在语法上有效,功能上正确。此最终质量门确保输出在发送回用户之前准确可靠。
- API 规范**和文档生成:**开发人员可以通过自然语言描述所需的 API 来生成完全验证的 OpenAPI (OAS) 或 RAML 规范。MuleSoft Vibes 接收提示(包括关于资源、方法、安全方案和参数的详细信息 ) , 并生成语法正确的有效 API 定义。生成后,它可以在 Anypoint Exchange 中为 API 创建文档,该文档涵盖了从身份验证到端点详细信息和错误处理的所有内容,使开发人员从这些类型的繁琐任务中解放出来。
- **AI 辅助的 MUnit 生成:**对于自主客服人员消耗的资产,质量保证至关重要。MuleSoft Vibes 帮助直接从 Mule 流代码生成 MUnit 测试用例。这有助于模拟外部依赖性和声明,并确定常见的测试差距,这大大减少了实现高测试覆盖率和确保集成逻辑可靠性所需的手动工作。
1.2 MuleSoft Your Way
开发人员在他们的首选环境中发展壮大。这就是为什么 MuleSoft 与开发人员会面,这允许他们在选择的 AI IDE 中构建集成。MuleSoft 的模型上下文协议 (MCP) 服务器将开发、部署和管理功能公开为 MCP 工具,任何基于 VS 代码的 AI 本机 IDE(例如,光标、Windsurf 或 Trae)都可以使用该工具使用自然语言与 Anypoint 平台进行交互。
通过将核心 IDE 功能打包到标准 VS 代码扩展中,MuleSoft 将其工具与品牌化 IDE shell 分离开来,这使得开发工具与 IDE 无关。这种架构选择使 MuleSoft 的开发工具能够在不断增长的现代 AI 支持 IDE 生态系统中保持兼容性和可访问性,而不是与 IDE 的快速发展竞争。
2.启用可操作性:将 API 转换为适用于客服人员的工具
在 Agentic Enterprise 中,拥有强大的可组合 API 基础是必要的,但还不够。下一个关键步骤是确保这些资产可由 AI 客服人员发现、理解和调用。这需要基于专为客服人员通信设计的开放标准的“可操作性层”。MuleSoft 为两种主要新兴协议提供了企业级工具:
- 适用于客服人员到系统交互的 MCP
- 适用于客服人员到客服人员交互的 A2A
2.1 模型上下文协议 (MCP)
MCP 已迅速成为客服人员到工具通信的行业标准,类似于 REST 在 Web 服务中的变化。MCP 允许 AI 客服人员动态发现系统的功能,了解其输入和输出,并调用它来执行操作,所有这些都不需要预先编程或硬编码的逻辑。
MuleSoft MCP 连接器允许将实施为 Mule 应用程序的任何 API 发布为 MCP 服务器。由于 MuleSoft 为几乎所有主要企业系统(例如 SaaS、原有和数据库)提供了数百个预构建连接器,因此这会立即将组织的 API 和应用程序转换为一组客服人员就绪的工具。设计用于检查 SAP 库存的 API、在 Salesforce 中处理新潜在客户的流或通过 MuleSoft 连接的自定义应用程序都可以作为使用 MCP 连接器的原子化受管工具提供给 AI 客服人员。
2.2 客服人员到客服人员协议 (A2A)
虽然 MCP 擅长层次结构、客服人员调用工具交互,但复杂的业务流程通常需要多个专业客服人员之间的协作。客服人员对客服人员 (A2A) 协议是新兴的开放标准,旨在促进对等通信,从而实现复杂的多客服人员工作流。
MuleSoft 对 A2A 的支持允许企业设计和构建高级系统,其治理和可靠性水平与他们期望的 API 相同。MuleSoft A2A 连接器允许开发人员将任何客服人员轻松公开为 A2A 服务器,或从 Mule 应用程序调用任何符合 A2A 标准的客服人员。例如,抵押申请流程可能会跨“信用检查客服人员”、“文档签名客服人员”和“监管合规客服人员”进行编排,每个客服人员发现并调用其他客服人员的功能(根据需要)来推进申请。
通过为 MCP 和 A2A 提供强大的企业级工具,MuleSoft 支持构建灵活的生态系统,该生态系统由客服人员到系统的直接交互(通过 MCP 工具)和客服人员到客服人员 (A2A) 交互组成。无论 AI 环境如何发展,这种方法都将 MuleSoft 定位为连接所有形式客服人员通信的基础。
3.MuleSoft 客服人员结构:客服人员企业的中枢神经系统
随着企业采用客服人员 AI,不可避免地面临客服人员蔓延的挑战。为了防止这种情况演变成混乱,需要一个专用的编排层。MuleSoft 代理结构(演示)是一个全面的架构解决方案,旨在直接应对这一挑战。它提供了一个中央管理平面来发现、治理、编排和观察整个 AI 客服人员网络,无论他们在哪里构建或如何操作。MuleSoft Agent Fabric 作为企业数字员工的"空中交通控制者 " , 将分散、孤立的客服人员集合转换为一个有凝聚力、安全、高性能的智能网络。
MuleSoft 客服人员结构构建于四个集成支柱之上,涵盖了客服人员作为一流企业资产的整个生命周期管理。
3.1 代理注册表(发现)
任何受管生态系统的基础都是可发现性。客服人员注册表是企业中每个客服人员资产的通用集中目录。这包括自定义构建的客服人员、嵌入 SaaS 应用程序的客服人员、公开原有系统的 MCP 服务器以及客服人员之间协作的 A2A 端点。通过提供单一的真实来源,客服人员注册中心通过阻止团队构建冗余功能,并使人类开发人员和其他 AI 客服人员能够大规模动态查找和重用现有资产,从而解决了关键的发现问题。
客服人员注册表构建在 Anypoint Exchange 上,它添加了三种新的资产类型:客服人员、MCP 服务器和 LLM。它捕获有关这些资产的信息,包括 MCP 工具、传输协议和客服人员卡,以及客服人员和他们使用的 MCP 服务器和工具之间的依赖性。开发人员可以直接在注册表中创建和管理资产。在创建新编配时,他们还能够以编程方式发现和重用 MuleSoft Vibes 中的现有资产(通过 MuleSoft MCP 服务器的 search_asset 工具)。这为开发人员提供了理解和使用这些资产所需的所有信息。
3.2 代理经纪人(组织)
一旦发现资产,就必须对其进行编排以执行有用的工作。客服人员代理是一个执行多步骤业务流程的编排服务。它使用可配置的 LLM 来解释高级任务并生成相应的工作流。客服人员代理人动态发现、排序并调用所需的客服人员和工具,以完成这些流程。
连接通过适用于工具的 MCP 和适用于客服人员的 A2A 协议进行管理。这允许系统将客服人员组织到特定于业务的域中(例如,供应链或财务),并在所有这些域中路由任务。单个自然语言提示(例如,“入职员工”)被分解为一系列离散的操作,这些操作由跨多个后端系统的不同客服人员或工具执行。客服人员经纪人编排包括:
- **动态编排模式:**这是客服人员循环模式,确定子任务,并在最合适的客服人员和工具之间编排它们,以实现总体目标。通过利用这种模式,可以构建协作客服人员来解决复杂的用例(例如,处理复杂的服务升级)。
- **LLM 支持的原因:**使用 LLM 来解释自然语言目标并生成执行计划,这就不需要硬编码的严格工作流逻辑。
- **可配置 LLM 模型:**允许开发人员指定使用哪个 LLM 模型,这提供了对成本、性能和功能的控制。
- **自然语言开发:**通过 MuleSoft Vibes,使用自然语言定义客服人员代理逻辑。
- 可观察性:Anypoint Monitoring 在部署时提供日志记录和跟踪,以帮助用户了解和调试客服人员代理的推理以及与 MCP 工具和 A2A 客服人员的交互。
- **受管部署:**客服人员代理是一个由 Mule Runtime 支持的容器化应用程序,它管理部署的可用性和可扩展性。
3.3 MCP 和 A2A 的弯曲网关(治理)
任意点弯曲网关是在技术上强制执行某些策略的机制。MuleSoft 客服人员结构利用 Anypoint Flex Gateway 来保护、检查和管理通过 MCP 和 A2A 协议发生的每个客服人员交互。这允许组织将丰富的企业级策略应用于所有客服人员流量,以确保每个操作在执行前都是安全的、合规的和可审计的。要安全和负责任地扩大 AI 采用,这些防护措施至关重要。
| 保单名称 | 协议 | 描述 |
|---|---|---|
| JWT 验证策略/客户端 ID 实施策略 | A2A、MCP | **JWT 验证策略/**客户端 ID 实施策略通过限制仅对经过身份验证的调用者的访问权限来保护 A2A 客服人员和 MCP 服务器。 |
| 模式验证 | A2A、MCP | 模式验证确保传入客服人员请求符合 A2A 或 MCP 规范,从而防止格式错误的流量。 |
| A2A PII 探测器 | A2A | A2A PII 检测器识别请求和响应中的个人身份信息 (PII),并启用日志记录或阻止以满足合规性要求。 |
| A2A 提示装饰器 | A2A | A2A 提示装饰程序将自定义上下文或指令注入发送到客服人员的提示,以指导他们的行为并实施防护。 |
| 基于 MCP 属性的访问控制 | MCP | 基于 MCP 属性的访问控制根据用户属性(例如,等级、IP 或 JWT 声明)来规范对 MCP 服务器公开的特定工具和资源的访问。 |
| SSE 日志记录 | A2A、MCP | SSE 日志记录代理协议用于全面审计和可追溯性的服务器发送事件 (SSE) 流的内容。 |
| 流量限制和峰值控制 | A2A、MCP | 速率限制和峰值控制通过强制执行请求限制,保护后端客服人员和系统免受流量激增和拒绝服务攻击。 |
| A2A 客服人员卡 | A2A | A2A 客服人员卡会重写客服人员卡 URL,以确保所有流量都通过受管的 Flex 网关实例正确代理。 |
代理协议的企业治理策略
除了管理入站请求之外,Anypoint Flex Gateway 还管理从客服人员到外部服务(例如 MCP 服务器和工具或其他客服人员)的所有出站连接和请求。这包括:
- **记录:**提供集中的可观察性点,以监控和记录所有出站客服人员请求,从而进行审计和故障排除。
- **安全性:**通过检查出站流量,防止敏感数据泄露。
- **身份验证:**通过应用出站身份验证机制(包括 API 密钥、OAuth 和 ClientId/ClientSecret),从单点管理外部系统的凭据。
当现成的策略不符合特定要求时,Anypoint Flex Gateway Policy Development Kit (PDK) 允许用户创建自定义策略。通过使用 PDK,开发人员可以使用 Rust 编程语言编写策略逻辑,并将其编译为 Web Assembly (WASM) 模块。然后,将自包含模块加载到 Anypoint Flex 网关,以直接在 API 边缘强制执行唯一的安全规则、自定义数据转换或专用集成逻辑。这为独特或复杂的用例提供了扩展网关功能的强大高性能方式。
以下是 PDK: 的四个关键组件
- **Anypoint CLI PDK 插件:**此插件创建 PDK 项目,并将编译的策略上传到 Exchange。它还生成了一个Makefile,通过提供一组清晰的命令来构建和管理策略,从而简化了开发过程。
- **策略模板:**创建新项目时,PDK 会生成基本支架或模板。此结构包括成功编译策略所需的所有必需文件和配置,这为开发人员提供了自定义逻辑的起点。
- **SDK 构建工具:**这些工具抽象了基础特使代理的复杂、事件驱动的架构。通过使用反应器和执行器模式,SDK 提供了一种直接的线性编码方法。这有助于降低复杂性,改进调试,并降低开发人员的学习曲线。
- 策略管理:MuleSoft MCP 服务器提供 MCP 工具,帮助用户管理自定义策略生命周期。这些工具的示例包括:
- get_flex_gateway_policy_example
- manage_api_instance_policy
- manage_flex_gateway_policy_project
3.4 客服人员可视化器(观察)
客服人员可视化器提供整个客服人员网络的实时动态地图,将可能是 AI 交互的"黑匣子"变成一个完全可观察的系统。架构师和运营团队可以使用 Agent Visualizer 查看客服人员的连接方式,跟踪他们的决策流,监控他们的运行状况和性能,并确定依赖性。此可见性级别对于优化性能、高效故障排除、检测瓶颈和建立对已部署客服人员的信心至关重要。
4.Salesforce 平台统一
4.1 API 目录和主题中心
MuleSoft API 目录和主题中心旨在改进发现、使用和管理 API 的方式,特别是与 Agentforce 结合使用。
通过 Salesforce 平台中的 API 目录,所有设计和发布的 MuleSoft API 都可以被发现和使用。API 目录用作集中存储库,它将组织的所有 API 从 MuleSoft、Salesforce、Heroku 和其他云统一到一个视图中。这使得开发人员和管理员能够很容易地发现、理解和重用现有的 API, 使这些 API 能够在自动化(例如,Agentforce、Flow和Apex)中使用。
Agentforce 的 MuleSoft:主题中心允许开发人员在设计时定义 Agentforce 主题和行动元数据,围绕具体的业务用例来构建他们的 API。这包括:
- 操作,即客服人员可以执行的任务
- 指导客服人员如何应用特定操作的说明
通过添加语义层,主题中心使 API 可被 Agentforce 理解和使用,从而确保它可以有效地与企业系统进行交互。
4.2 Agentforce Gateway
Agentforce 网关是一个集中的治理层,旨在管理和保护不断扩大的 Agentforce 生态系统内的互动。由于 Agentforce 通过 MCP 等协议与其他第三方 API 和工具集成,Agentforce 网关的主要功能是对 Agentforce 发起的所有出站流量强制执行策略(例如,速率限制和工具限制),并审计所有出站请求。
Agentforce 网关利用现有的 MuleSoft API 治理策略引擎,该引擎本地内置于 Salesforce 平台中。此基于特使的策略引擎拦截客服人员流量,应用配置的策略(例如,基于属性的访问控制和配额限制),并管理身份验证和授权,所有这些都不需要客户安装额外的网关基础设施。
4.3 集成智能
部署受管客服人员网络是一项里程碑式的成就。但是,它引入了新的“第 2 天”运营挑战。它需要增强的运营智能级别来监控、测量和排除自主行为者的动态分布式系统。最终的架构愿景是一个系统,其中 AI 不仅用于执行业务流程,而且还用于监控、管理和修复它所运行的基础设施。
MuleSoft 的集成智能愿景利用更广泛的 Salesforce 生态系统的强大功能,为集成结构和代理网络的性能提供深入、可定制的见解。通过在 Salesforce Data 360 中捕获和存储 OpenTelemetry (OTEL) 合规数据(新出现的可观察性标准 ) , 组织可以为整个环境中的日志、度量和跟踪创建统一存储库。此数据可通过预构建仪表板和自定义可视化在 Tableau 中查看,以获取有关 API 性能、客服人员交互模式和整体系统运行状况的详细见解。
该系统有三个关键组件:
- **摄取:**接收服务是从各种 Mule 应用程序、客服人员代理人和 Flex Gateway 收集和处理遥测数据的集中入口点。它执行模式验证、数据规范化和筛选,以保持各种应用程序的数据质量和一致性。此外,它在接收漏斗中强制执行控制(例如,身份验证、加密、租户公平和速率限制)。
- **存储:**高吞吐量流作业在 Data 360 中运行,从多租户 Kafka 主题中读取数据,并将其转换为 OTEL 格式。然后,OTEL 数据被提交到租户在 Lakehouse 的 TelemetryTraceSpan、TelemetryLogs 和 TelemetryMetrics DMO 中的 Data 360。
- **可视化/消耗:**借助 Data 360 提供的遥测数据,客户可以通过 Tableau Next 使用预构建或自定义仪表板查看系统运行状况并获取见解。客户还可以利用 Tableau Concierge,这是 Tableau Next 中预构建的代理分析技能,允许用户以自然语言提出有关遥测数据的问题,并通过可视化获得可信、可操作的答案。客户也可以将数据导出到现有的应用程序性能管理 (APM) 系统(例如 DynaTrace、Datadog、Splunk 等)。
结论
向 Agentic Enterprise 的过渡不仅仅是 IT 升级,还是一个基本的架构转折点。AI 客服人员的分散、孤立部署是导致运营混乱、影子 IT 和无法管理的技术债务的直接途径。唯一可持续的前进道路是通过统一的可组合架构。MuleSoft Agent Fabric 建立在 API 引导的连接的成熟基础上,提供了管理这些新数字员工所需的"中枢神经系统 " 。它提供了发现、编排、企业级治理和端到端可观察性的关键功能。这就是我们如何超越 AI 实验,开始构建真正智能、自动化和安全的企业,将自主潜力转化为有形、有管理的业务成果。
技术指南和参考
- 开始使用 Anypoint 代码生成器
- 适用于 Anypoint 代码生成器的 Einstein 技术指南:生成流
- DataWeave 生成式转换深入挖掘:适用于快速数据转换的 AI 创新
- 使用 MuleSoft 开发人员创建 API 规格
- 使用 Einstein 生成式 AI 生成 API 文档
- MuleSoft MCP 服务器概览
- MuleSoft MCP 服务器工具
- MCP 连接器
- A2A 连接器
- 开始使用客服人员结构
- 使用 Flex 网关保护客服人员交互
- 灵活网关客服人员策略
- 灵活网关策略开发工具包 (PDK) 概述
- 适用于 Salesforce 的 MuleSoft API 目录
- 为主题和客服人员操作启用 API 项目
- 使用 Tableau Next
- OpenTelemetry
- 模型上下文协议
- Agent2Agent (A2A) 协议
关于作者
Nikhil Aggarwal 是 Salesforce 的首席架构师,负责 MuleSoft 和 Salesforce Automation Cloud 的架构。Nikhil 拥有超过 18 年的大规模产品交付经验,并热衷于可扩展架构、直观的开发人员体验和构建高性能团队。在加入 Salesforce 之前,从概念到发布,他在 Microsoft Power Platform、Dataverse 和 Office 365 中领导了多项计划。他的工作继续塑造现代企业如何在 AI 优先时代连接系统、自动化工作流并释放业务价值。