Amazon SageMaker Studio Notebooks unterstützen jetzt G7e-Instance-Typen
Amazon G7e instances verfügen über bis zu 8 NVIDIA RTX PRO 6000 Blackwell Server Edition-GPUs mit 96 GB Arbeitsspeicher pro GPU und Intel Xeon-Prozessoren der 5. Generation. Sie unterstützen bis zu 192 virtuelle CPUs (vCPUs) und bis zu 1.600 Gbit/s Elastic Fabric Adapter-Netzwerkbandbreite. G7e-Instances unterstützen NVIDIA GPUDirect Peer to Peer (P2P), das die Leistung für Workloads mit mehreren GPUs steigert. G7e-Instances mit mehreren GPUs unterstützen auch NVIDIA GPUDirect Remote Direct Memory Access (RDMA) mit eFAV4 in EC2-UltraClustern, wodurch die Latenz für kleine Workloads mit mehreren Knoten reduziert wird. Kunden können G7e-Instances verwenden, um große Sprachmodelle (LLMs), agentenbasierte KI-Modelle, multimodale generative KI-Modelle und physische KI-Modelle bereitzustellen. G7e-Instances bieten die höchste Leistung für Spatial-Computing-Workloads sowie für Workloads, die sowohl Grafik- als auch KI-Verarbeitungsfunktionen erfordern.
Amazon-EC2-G7e-Instances sind für SageMaker-Studio-Notebooks in den AWS-Regionen USA Ost (Nord-Virginia und Ohio) und USA West (Oregon) verfügbar.
Lesen Sie die Entwicklerhandbücher für Anweisungen zur Einrichtung und Verwendung von JupyterLab- und CodeEditor-Anwendungen in SageMaker Studio. Preisinformationen zu diesen Instances finden Sie auf unsererPreisseite.