Блокноты Студии Amazon SageMaker теперь поддерживают инстансы типа G7e
Инстансы Amazon G7e включают до восьми графических процессоров NVIDIA RTX PRO 6000 Blackwell Server Edition с 96 ГБ памяти на каждый и процессорами Intel Xeon пятого поколения. Они поддерживают до 192 виртуальных процессоров и пропускную способность сети до 1600 Гбит/с для интерфейса эластичной матрицы. Инстансы G7e поддерживают P2P-технологию NVIDIA GPUDirect, которая повышает производительность рабочих нагрузок с использованием множества GPU. Инстансы G7e с множеством GPU также поддерживают удаленный прямой доступ к памяти (RDMA) NVIDIA GPUDirect с интерфейсом EFAv4 в EC2 UltraClusters, что уменьшает задержку для многоузловых рабочих нагрузок небольшого масштаба. Клиенты могут использовать инстансы G7e для развертывания больших языковых моделей (LLM), моделей агентного ИИ, мультимодальных моделей генеративного искусственного интеллекта и моделей физического ИИ. Инстансы G7e обеспечивают самую высокую производительность для рабочих нагрузок пространственных вычислений, а также нагрузок, требующих одновременной обработки графики и искусственного интеллекта.
Инстансы Amazon EC2 типа G7e доступны для блокнотов Студии SageMaker в следующих регионах AWS: Восток США (Северная Вирджиния и Огайо) и Запад США (Орегон).
Инструкции по настройке и эксплуатации приложений JupyterLab и CodeEditor в Студии SageMaker см. в руководствах для разработчиков. Сведения о стоимости этих инстансов см. на нашей странице цен.