Amazon Bedrock giới thiệu công cụ tối ưu hóa câu lệnh nâng cao và di chuyển
Khách hàng mất nhiều ngày đến hàng tuần để tối ưu hóa câu lệnh và đánh giá phản hồi khi họ muốn chuyển sang một mô hình mới hoặc chỉ đơn giản là cải thiện hiệu năng cho mô hình hiện tại của họ. Họ phải vật lộn với việc thay đổi câu lệnh nhanh chóng rồi kiểm thử để ngăn chặn tình trạng hồi quy và cải thiện các tác vụ kém hiệu quả. Những tình huống này đòi hỏi cùng một công cụ: một trình tối ưu hóa câu lệnh được tích hợp phần đánh giá.
Hôm nay, Amazon Bedrock giới thiệu Tối ưu hóa câu lệnh nâng cao, một công cụ mới cho phép khách hàng tối ưu hóa câu lệnh của họ cho bất kỳ mô hình nào trên Bedrock, đồng thời so sánh câu lệnh ban đầu với câu lệnh được tối ưu hóa trên tối đa 5 mô hình cùng một lúc. Khách hàng có thể sử dụng công cụ này nếu họ đang di chuyển sang một mô hình mới hoặc chỉ muốn có được hiệu năng tốt hơn trên mô hình hiện tại của họ. Nếu thay đổi mô hình, họ có thể chọn mô hình hiện tại làm cơ sở và tối đa 4 mô hình khác. Nếu không thay đổi mô hình, họ chỉ cần chọn mô hình hiện tại để so sánh trước và sau khi tối ưu hóa. Trình tối ưu hóa sử dụng các mẫu câu lệnh, đầu vào ví dụ của người dùng cho các giá trị biến, câu trả lời xác thực (ground truth) không bắt buộc và chỉ số đánh giá hoặc tiêu chí ngôn ngữ tự nhiên ngắn gọn làm hướng dẫn. Trình tối ưu hóa này thậm chí còn tương thích với dữ liệu đầu vào đa phương thức như jpg, png hoặc PDF. Trình tối ưu hóa câu lệnh hoạt động trong vòng phản hồi để định hướng câu lệnh và phản hồi mô hình tạo ra theo hướng tối ưu hóa chỉ số đánh giá, đồng thời xuất ra mẫu câu lệnh ban đầu và cuối cùng kèm theo điểm đánh giá, ước tính chi phí và độ trễ.
Để biết khu vực hỗ trợ, hãy xem tài liệu của chúng tôi. Để biết cách định giá, hãy xem trang định giá Bedrock. Để bắt đầu, hãy sử dụng API Bedrock cho Trình tối ưu hóa câu lệnh nâng cao hoặc truy cập Bảng điều khiển Bedrock.