Sổ tay Studio Amazon SageMaker hiện hỗ trợ các loại phiên bản G7e
Phiên bản Amazon G7e có tối đa 8 GPU NVIDIA RTX PRO 6000 Blackwell Server Edition, với bộ nhớ 96 GB mỗi GPU và bộ xử lý Intel Xeon thế hệ thứ 5. Phiên bản này hỗ trợ tối đa 192 CPU ảo (vCPU) và băng thông mạng Elastic Fabric Adapter lên đến 1600 Gbps. Phiên bản G7e hỗ trợ công nghệ NVIDIA GPUDirect Peer to Peer (P2P), giúp tăng hiệu năng cho khối lượng công việc nhiều GPU. Ngoài ra, phiên bản G7e nhiều GPU còn hỗ trợ NVIDIA GPUDirect Remote Direct Memory Access (RDMA) với EFAv4 trong EC2 UltraClusters, giúp giảm độ trễ cho khối lượng công việc nhiều nút quy mô nhỏ. Khách hàng có thể sử dụng phiên bản G7e để triển khai các mô hình ngôn ngữ lớn (LLM), mô hình AI trợ lý ảo, mô hình AI tạo sinh đa phương thức và mô hình AI vật lý. Phiên bản G7e cung cấp hiệu năng cao nhất cho khối lượng công việc điện toán không gian cũng như khối lượng công việc yêu cầu cả khả năng xử lý đồ họa và AI.
Phiên bản Amazon EC2 G7e có sẵn trên sổ tay Studio SageMaker ở khu vực AWS Miền Đông Hoa Kỳ (Bắc Virginia và Ohio) và Miền Tây Hoa Kỳ (Oregon).
Hãy truy cập hướng dẫn dành cho nhà phát triển để biết cách thiết lập và sử dụng các ứng dụng JupyterLab và CodeEditor trên Studio SageMaker. Vui lòng truy cập trang định giá của chúng tôi để biết thông tin về mức giá của những phiên bản này.