Amazon Bedrock представляет инструмент расширенной оптимизации текстовых запросов и миграции
Когда клиенты хотят перейти на новую модель или просто повысить производительность текущей, им приходится тратить дни и недели на оптимизацию текстовых запросов и оценку ответов. Им бывает сложно быстро изменить текстовые запросы, а затем протестировать их, чтобы предотвратить регрессию и оптимизировать неэффективные задачи. В таких ситуациях поможет лишь одно – быстрый оптимизатор текстовых запросов со встроенной оценкой.
Сегодня Amazon Bedrock представляет расширенную оптимизацию текстовых запросов – новый инструмент, который позволяет клиентам оптимизировать текстовые запросы для любой модели в Bedrock путем сравнения исходных запросов с оптимизированными в пяти моделях одновременно. Клиенты могут использовать его, когда переходят на новую модель или просто хотят повысить производительность текущей модели. При смене модели можно выбрать текущую модель в качестве базовой и еще до четырех других моделей. Если модель не меняется, достаточно выбрать текущую модель, чтобы посмотреть, как она работает до и после оптимизации. Оптимизатор использует шаблоны текстовых запросов, примеры вводимых пользователем значений переменных, дополнительные эталонные ответы и оценочную метрику или краткие критерии на естественном языке в качестве ориентира. Он даже совместим с мультимодальными входными данными, например в формате JPG, PNG или PDF. Оптимизатор текстовых запросов работает в контуре обратной связи, направляя запросы и полученные ответы модели на оптимизацию оценочной метрики, и выводит исходные и окончательные шаблоны тестовых запросов с оценочными баллами, расчетными затратами и значением задержки.
Информацию о доступности в регионах см. в нашей документации. Цены см. на странице цен на Bedrock. Чтобы приступить к работе, воспользуйтесь API Bedrock для расширенной оптимизации текстовых запросов или перейдите к консоли Bedrock.