Hai mô hình mới cho lập trình tác tử và AI hiệu quả hiện có sẵn trong Amazon SageMaker JumpStart
Hôm nay, AWS đã công bố việc cung cấp GLM-5.1-FP8 và Phi-4-mini-instruct trong Amazon SageMaker JumpStart, mở rộng danh mục mô hình nền tảng có sẵn cho khách hàng AWS. Các mô hình này từ Z.ai và Microsoft mang đến các khả năng tác tử nâng cao và suy luận hiệu quả cho khối lượng công việc AI cho doanh nghiệp trên cơ sở hạ tầng AWS.
Các mô hình này giải quyết các thách thức AI cho doanh nghiệp khác nhau với các khả năng chuyên biệt:
GLM-5.1-FP8 vượt trội về kỹ thuật phần mềm tác tử với khả năng tối ưu hóa nhiều lượt liên tục, xử lý tạo mã cấp kho chứa, tác vụ giao diện đầu cuối và quy trình công việc gỡ lỗi phức tạp được cải thiện với khả năng suy luận mở rộng. Đây là lựa chọn lý tưởng cho quy trình đánh giá mã tự động, môi trường phát triển dựa trên AI và giải quyết vấn đề dài hạn. Trong đó, mô hình thao tác lặp lại qua hàng trăm vòng để tinh chỉnh các giải pháp.
Phi-4-mini-instruct vượt trội về suy luận, toán học và logic mạnh mẽ trong môi trường hạn chế bộ nhớ và giới hạn độ trễ, hỗ trợ 24 ngôn ngữ và gọi hàm trong một hình thức nhỏ gọn. Đây là lựa chọn lý tưởng cho triển khai tại biên, ứng dụng đòi hỏi cao về độ trễ, chatbot đa ngôn ngữ và các tình huống mà khách hàng cần khả năng suy luận mạnh mẽ, tiêu tốn chi phí tài nguyên ở mức tối thiểu.
Với SageMaker JumpStart, khách hàng có thể triển khai bất kỳ mô hình nào trong số này chỉ với một vài cú nhấp chuột để giải quyết các trường hợp sử dụng AI cụ thể của họ.
Để bắt đầu với các mô hình này, bạn hãy điều hướng đến phần Mô hình của Studio SageMaker hoặc sử dụng SageMaker Python SDK để triển khai mô hình vào tài khoản AWS của bạn. Để biết thêm thông tin về cách triển khai và sử dụng mô hình nền tảng trong SageMaker JumpStart, hãy xem tài liệu về Amazon SageMaker JumpStart.