Инстансы блокнотов SageMaker теперь поддерживают инстансы типа G6e
Сообщаем, что инстансы Amazon EC2 G6e теперь доступны всем пользователям инстансов блокнотов SageMaker.
Инстансы Amazon EC2 G6e работают на базе восьми графических процессоров NVIDIA L40s Tensor Core с 48 ГБ памяти на каждый и процессоров AMD EPYC третьего поколения. Производительность инстансов G6e может быть в 2,5 раза выше, чем у инстансов EC2 типа G5. Клиенты могут использовать инстансы G6e для интерактивного тестирования развертывания моделей и для их интерактивного обучения, например для настройки генеративного искусственного интеллекта. Инстансы G6e позволяют развертывать большие языковые модели (LLM) с размером параметров до 13B, а также диффузионные модели для создания изображений, видео и звука.
Инстансы Amazon EC2 G6e доступны в инстансах блокнотов SageMaker в следующих регионах AWS: Восток США (Северная Вирджиния и Огайо), Запад США (Орегон), Азиатско-Тихоокеанский регион (Токио), Ближний Восток (Дубай) и Европа (Франкфурт, Швеция, Испания).
Инструкции по настройке и использованию приложений JupyterLab и CodeEditor в Студии SageMaker или инстансах блокнотов SageMaker вы найдете в руководствах для разработчиков.