亚马逊AWS官方博客

SageMaker HyperPod 集群是一种基于 Slurm 的高性能弹性计算集群，可以实现跨机器跨 GPU 的大规模并行训练。 它提供了原生的 IaaS 基础设施服务器，可以自由操控和部署各种模型和框架，充分发挥亚马逊云端可伸缩的计算能力，显著缩短了大模型在海量数据集上的训练时间。 本文详细介绍了 SageMaker Hyperpod 集群的启动、配置、连接、管理和在其上进行分布式训练的方法。

本文是面向 GPU 服务器的 SageMaker 系列博客的一部分，文中我们将介绍如何像使用 EC2 GPU 服务器一样，在 SageMaker training Job 中进行 GenAI 模型的微调训练开发及调试，及训练完成后使用 SageMaker Endpoint 推理实例进行模型部署和即时推理。

本系列博客旨在整理面向原生 GPU 服务器的 SageMaker 使用方法，包括 SageMaker Notebook 实例、Training Job 训练任务、Inference Endpoint 推理端点、SageMaker Hyperpod HPC 高性能集群等各种 SageMaker 功能组件。本文介绍 SageMaker Notebook 笔记本实例上 GPU 服务器的使用方法。

本文聚焦经典的 Amazon WorkSpaces 全功能虚拟桌面，分享相关的小经验，为相关领域的实践者提供有价值的参考和指导。

AWS 峰会季正在全球火热进行，上周的活动地点位于班加罗尔、柏林和首尔，我的博客同事 Channy 还在活动中 […]

本文将会介绍 PingCAP 在使用 LLM 构建 TiDB 社区智能助手 TiDB bot 的实践和探索经验。

Shulex 已经将上亿数据量的核心业务从开源向量数据库 Milvus 迁移至全托管的向量数据库云服务 Zilliz Cloud。相比于 Milvus，Zilliz Cloud 实现了 Shulex VOC 评论分析洞察报告生成速度 30% 的提升，VOC 智能客服召回率 98%，且系统稳定，0 宕机，大大降低了企业在向量数据库的运维成本。

在当今的电子商务时代，一个高效、稳定的电商平台对于保持竞争力至关重要。数据库作为电商平台的核心支撑，其性能直接 […]

在本文中，我们将介绍如何采用 AWS Inf2 实例，在 AWS 自研芯片上一键部署多个业界领先的大语言模型，方便企业业务人员进行测试，同时开放出 API 接口，方便进行性能基准测试以及下游的应用程序的调用。

背景 Amazon EMR 是行业领先的云大数据解决方案，适用于使用开源框架（如 Apache Spark、A […]