跳至主要内容
Missing alt text value

基于 AgentCore,猎豹移动旗下聚云科技打造 Agentic AI 驱动的新一代云和 Token 成本治理平台

猎豹移动旗下聚云科技是专注于企业出海的一站式 AI+ 云解决方案提供商,为企业提供云技术咨询及云运维等服务。基于 Amazon Bedrock AgentCore 系列产品,聚云科技打造了 Agentic AI 驱动的新一代云和 Token 成本治理平台 CostQ,将平台上线时间从 3 个月缩短至 5 周,运维工作量减少约 80%,计算成本降低约 20%。

Missing alt text value

优势

5周
产品上线时间从 3 个月缩短至
80%
运维工作量减少
20%
计算成本节约

概述

猎豹移动旗下聚云科技是专注于企业出海的一站式 AI+ 云解决方案提供商,为企业提供云技术咨询及云运维等服务。基于 Amazon Bedrock AgentCore 系列产品,聚云科技打造了 Agentic AI 驱动的新一代云和 Token 成本管理平台 CostQ,将平台上线时间从 3 个月缩短至 5 周,运维工作量减少约 80%,计算成本降低约 20%。目前,聚云科技主要使用的亚马逊云科技服务包括:Amazon Bedrock AgentCoreAmazon Elastic Kubernetes Service (Amazon EKS)Amazon Simple Storage Service (Amazon S3)Amazon Graviton 处理器等。

Missing alt text value

机会

从“专家垄断”到“对话洞察”,CostQ 找到云和 Token 降本新方式

由于云成本账单的复杂性,使得云成本管理往往需工程师的专业经验。企业要理解费用来源,往往需要结合账单明细、资源关系和业务上下文等进行关联分析,不仅耗时,也难以形成稳定、可复用的持续治理流程。

为了打破这一门槛,深耕全球化云服务多年的聚云科技将以往的 Finops 经验融入到了新一代的 Agentic AI 驱动的云成本管理平台 CostQ,其核心优势在于将复杂的成本分析转化为简洁的对话入口。过去,由于云成本账单的复杂性,使得定位成本浪费需要依赖专业人员通过繁琐的参数筛选进行分析,汇总报告。现在只需通过自然语言提问,即可快速锁定资源浪费根源、并提供优化方案。同时这种模式显著增强了跨团队协作的效率:即便是不熟悉云成本账单逻辑的业务人员,也可以通过系统预设的标准化能力,直接进行“专家级”的分析。这不仅降低了部门间的信息壁垒,更让成本优化从单纯的技术任务,转变为多部门共同参与的业务决策。在 CostQ 的研发过程中,聚云科技需要重点解决以下挑战:

  • 复杂账单的结构化与智能解析:企业云账单涉及多账号、多服务与多维度计费项,数据结构复杂且关联关系较强。如何将分散的数据统一建模,并转化为可理解的分析结果与优化建议,是实现自动化分析的基础;
  • 企业级 Agent 架构:系统需要在多租户环境下实现安全隔离,同时支持灵活的工具调用与执行链路管理。如何构建兼具扩展性与可观测性的 Agent 架构,是支撑复杂业务运行的关键;
  • 轻量化运维:在产品快速迭代过程中,团队需要在有限人力下快速上线并保障系统稳定运行。聚云科技需要减少对底层资源管理的依赖,以便更好地进行持续优化与功能扩展。

聚云科技与亚马逊云科技长期的深厚互信,以及双方高度契合的“AI First”组织文化,为此次合作奠定了基石。面对构建企业级 Agent 的严苛要求,聚云科技认为亚马逊云科技提供的 AI 基础设施如同“乐高积木”般灵活且成熟。全托管的 AgentCore 解决方案精准回应了 CostQ 对安全隔离、按需调用、弹性扩展等诉求,让研发团队能将精力投入到业务创新。同时,考虑到亚马逊云科技团队的专业技术支持,以及全球化商业能力,聚云科技决定携手亚马逊云科技开展本次 CostQ 合作。

解决方案

以业务为锚点,构建轻量化 Agent 智能治理体系

一、弹性、安全的 Serverless 企业级 Agent 基础设施

面对复杂的工具调用需求,聚云科技并未选择重构沉重的底层环境,而是将 CostQ 的核心环境迁移至亚马逊云科技的 Amazon Bedrock AgentCore 基础设施,从根本上解决了研发敏捷度、安全性与可观测性等难题。

业务优先,打造“即插即用”的工具接入体验

在传统模式下,AI Agent 每新增一个工具都需“硬编码”集成,每添加一个分析能力都意味着要改动 Agent 代码并重新部署。聚云科技利用 AgentCore Gateway 彻底解耦了Agent主逻辑与 MCP Servers 的接入逻辑,将 Gateway 转化为一个“智能插座”,通过标准协议将各类 MCP Servers 转化为“标准化插头”。

有了 AgentCore Gateway,当用户提出成本分析请求时,系统不再需要预加载全量工具,而是根据需要智能调用相关工具。这种架构将 Agent 初始化时间从分钟级压缩至秒级。更重要的是,技术人员无需改动核心代码,在 1-2 小时内即可完成新的 MCP Server 的无缝接入,确保产品能紧跟用户需求的变化节奏,实现敏捷演进。

信任基石:以隔离机制与长效记忆构筑智能防线

作为处理敏感财务数据的 SaaS 应用,数据隔离是商业互信的底线。CostQ 基于 AgentCore Runtime 的隔离机制,确保每一位用户的对话都运行在完全独立的“微型虚拟机”(Micro VM)中,从底层避免了数据交叉风险,为企业级财务数据筑牢了护城河。

在安全防线之上,CostQ 依托 AgentCore 的长短期记忆功能,系统能够将用户偏好与业务上下文自动存入记忆库,用户在后续对话中无需反复交代背景。这种能力的沉淀,让 CostQ 摆脱了“一问一答”式工具的局限,转型为一位能够理解企业业务逻辑的数字分析专家。

效能进阶:全链路可观测与精益运维

AgentCore 内置的可观测性能力使研发团队能清晰追踪执行链路、工具耗时及 Token 消耗,为错误调试以及性能优化提供直观依据。得益于全托管的 Serverless 模式以及按需计费特性,聚云科技免除了底层硬件维护,在无需额外投入运维人员的情况下保障了系统稳定运行。这不仅让整体运维工作量减少了约 80%,而且 Agentcore 相关资源的成本在整体基础设施开销中占比控制在 5% 以内。

“AgentCore 是一套企业级的 Agent 基础设施底座。通过会话级隔离机制、安全护栏以及全链路可观测的 Serverless弹性架构,

使我们能够减少在底层 Agent 基础设施构建与运维上的投入,将更多的精力聚焦于业务创新。这不仅让 CostQ 的上线周期从 3 个月压缩至 5 周,更实现了 Agentic AI 应用的高效演进。”

聚云科技联合创始人兼首席架构师 李玉光

二、架构提效:从算力到网络的深层成本治理

在打磨核心 Agent 逻辑的同时,聚云科技也基于亚马逊云科技的产品矩阵,对 CostQ 的底层计算架构与数据传输链路进行了全方位的优化。

算力架构统一,计算成本下降约 20%

为了与 AgentCore 的底层架构保持一致,研发团队将承载前后端业务的 Amazon EKS 节点等计算资源,全面统一至基于 ARM 架构的 Graviton 实例。这种架构的对齐不仅消除了处理多种运行环境的兼容性的需求,简化了日常构建与发布的运维复杂度,更凭借 Graviton 的高性能优势,在保障系统处理能力的前提下,实现了整体计算成本约 20%的降低。

内网专属通道,NAT 网关数据处理费用减少40%

出于高标准的安全合规考量,CostQ 的业务服务器与数据库均部署在 VPC 私有子网中。针对 Agentcore Runtime 容器在按需启动时需频繁从 Amazon S3 拉取镜像数据的需求,聚云科技通过 Amazon S3 Gateway Endpoint 开辟了内网专属数据通道,让 Agent 可以在保持内部网络隔离的同时,减少约 80% 的 NAT 网关数据处理费用。

聚云科技基于亚马逊云科技的系统架构示意图

业务成果

5 周快速落地,开启 Agentic AI 成本治理新体验

得益于亚马逊云科技以 AgentCore 为代表的 AI 基础设施,聚云科技避免了复杂的底层 Agent 基础设施的构建,成功将 SaaS 产品 CostQ从 概念验证到正式上线的周期从 3 个月缩短至 5 周。

在商业化落地过程中,亚马逊云科技 Marketplace 不仅提供了一套标准化的交付流程,更将 SaaS 订阅平滑融入客户现有的云资源采购流程中,有效降低了建立信任和平台接入的门槛,极大地提升了CostQ 在海外的商业化效率。

目前,CostQ 已在日本区域投入应用。以双方共同服务的一家大型企业为例:客户原本面临多账号的账单分散、成本归因不清、异常增长发现滞后等问题。引入 CostQ 后,统一接入多个 AWS 账号,可按团队、项目、服务维度等进行成本分析,并通过自然语言问答快速定位费用变化原因。CostQ 帮助客户识别出了闲置资源、异常规格实例、低利用率存储、大模型调用中的缓存读取率异常等成本问题,使云成本下降约 25%。并持续对成本进行智能监控,完成了从"被动支出"到"持续运营"的转换。

未来,聚云科技将携手亚马逊云科技深耕全球业务版图,围绕 AgentCore 持续完善 CostQ 的功能矩阵。聚云科技将进一步融合 Agentic AI 技术与行业经验,帮助更多客户在复杂的生产环境中,通过智能化的工具实现业务价值的持续增长。

基于AgentCore打造的CostQ通过简单的自然语言交互,真正做到了‘把复杂留给模型,把简单留给客户’。彻底颠覆了传统的云成本治理流程,基于 Agentic AI让财务、采购甚至销售等非技术人员,均能零门槛、高效率地获取所需的成本数据洞察。

李玉光

聚云科技联合创始人兼首席架构师

关于聚云科技

猎豹移动旗下聚云科技是一家行业领先的企业出海一站式 AI + 云解决方案提供商,是亚马逊云科技核心级合作伙伴,首批获得亚马逊云科技生成式 AI 能力认证,同时在 2024 年以满分成绩通过亚马逊云科技 MSP 认证 Renewal。聚云科技秉持“以生成式 AI 驱动云创新,塑造企业数字未来”的使命,帮助企业在数字化转型过程中,快速实现云资源统一管理、弹性扩张、效能提升、优化成本。聚云科技以行业领先的理念和专业的技术能力,为企业客户提供云技术咨询、云架构设计、云迁移、云运维和安全管理、云集成项目落地、生成式 AI 解决方案等专业服务,护航企业解锁出海新势能。

Missing alt text value

免责声明:前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您了解行业前沿技术和发展海外业务选择推介该服务。

Missing alt text value