Amazon Bedrock apresenta ferramenta avançada de otimização e migração de prompts
Os clientes passam dias ou semanas otimizando prompts e avaliando respostas quando desejam migrar para um novo modelo ou simplesmente obter uma melhor performance do modelo atual. Eles têm dificuldade para alterar rapidamente os prompts e depois testá-los para evitar regressões e melhorar tarefas de baixa performance. Essas situações exigem a mesma ferramenta: um otimizador de prompts com avaliações integradas.
Hoje, o Amazon Bedrock apresenta a otimização avançada de prompts, uma nova ferramenta que permite aos clientes otimizar prompts para qualquer modelo no Bedrock, enquanto comparam prompts originais com prompts otimizados em até cinco modelos ao mesmo tempo. Os clientes podem usar esse recurso ao migrar para um novo modelo ou simplesmente quando desejam melhorar a performance do modelo atual. Se estiverem trocando de modelo, eles poderão selecionar o modelo atual como linha de base e até quatro outros modelos. Se não estiverem trocando de modelo, basta selecionar o modelo atual para ver o antes e depois da otimização. O otimizador usa modelos de prompt, exemplos de entradas do usuário para os valores das variáveis, respostas de referência opcionais e uma métrica de avaliação ou critérios curtos em linguagem natural para usar como guia. Ele também é compatível com entradas multimodais, como jpg, png ou PDF. O otimizador de prompts funciona em um ciclo de feedback para ajustar o prompt e as respostas resultantes do modelo para otimizar a métrica de avaliação. Ele gera os modelos de prompt original e final acompanhados de pontuações de avaliação, estimativas de custo e latência.
Para saber a disponibilidade da região, consulte a documentação. Para saber os preços, consulte a página de preços do Bedrock. Para começar a usar, utilize as APIs do Bedrock para o otimizador avançado de prompts ou acesse o console do Bedrock.