Os cadernos do Amazon SageMaker Studio já oferecem suporte aos tipos de instância G7e
As instâncias G7e oferecem até 8 GPUs NVIDIA RTX PRO 6000 Blackwell Server Edition, com 96 GB de memória por GPU e processadores Intel Xeon de 5ª geração. Eles oferecem suporte a até 192 CPUs virtuais (vCPUs) e até 1600 Gbps de largura de banda da rede do Elastic Fabric Adapter. As instâncias G7e oferecem suporte ao NVIDIA GPUDirect Peer to Peer (P2P), que aumenta a performance de workloads com várias GPUs. As instâncias G7e com várias GPUs também oferecem suporte ao NVIDIA GPUDirect Remote Direct Memory Access (RDMA) com EFav4 em UltraClusters do EC2, o que reduz a latência para workloads de vários nós em pequena escala. Os clientes podem usar as instâncias G7e para implantar grandes modelos de linguagem (LLMs), modelos de IA agêntica, modelos de IA generativa multimodal e modelos físicos de IA. As instâncias G7e oferecem a mais alta performance para workloads de computação espacial, bem como workloads que exigem recursos de processamento gráfico e de IA.
As instâncias G7e do Amazon EC2 estão disponíveis para cadernos do SageMaker Studio nas regiões da AWS Leste dos EUA (N. da Virgínia e Ohio) e Oeste dos EUA (Oregon).
Acesse os guias do desenvolvedor para obter instruções sobre como configurar e usar as aplicações JupyterLab e CodeEditor no SageMaker Studio. Para obter informações sobre os preços dessas instâncias, acesse a página de preços.