Amazon Bedrock présente un outil avancé d’optimisation et de migration rapides
Les clients passent des jours, voire des semaines, à optimiser les invites et à évaluer les réponses lorsqu’ils souhaitent migrer vers un nouveau modèle ou simplement améliorer les performances de leur modèle actuel. Ils ont du mal à modifier rapidement leurs instructions, puis à les tester pour éviter les régressions et améliorer les tâches peu performantes. Ces situations nécessitent le même outil : un optimiseur rapide avec évaluations intégrées.
Amazon Bedrock présente aujourd’hui Advanced Prompt Optimization, un nouvel outil qui permet aux clients d’optimiser leurs invites pour n’importe quel modèle sur Bedrock, tout en comparant leurs invites d’origine à leurs invites optimisées sur un maximum de cinq modèles simultanément. Les clients peuvent l’utiliser s’ils migrent vers un nouveau modèle ou souhaitent simplement améliorer les performances de leur modèle actuel. S’ils changent de modèle, ils peuvent sélectionner leur modèle actuel comme référence et jusqu’à quatre autres modèles. S’ils ne modifient pas de modèle, ils sélectionnent simplement leur modèle actuel pour voir avant et après l’optimisation. L’optimiseur prend en compte des modèles rapides, des exemples de saisies utilisateur pour les valeurs des variables, des réponses de base facultatives et une métrique d’évaluation ou de courts critères de langage naturel à utiliser comme guide. Il est même compatible avec les entrées multimodales telles que jpg, png ou PDF. L’optimiseur d’invite fonctionne dans une boucle de rétroaction pour orienter les réponses rapides et résultantes du modèle vers l’optimisation de la métrique d’évaluation, et génère les modèles d’invite d’origine et final avec les scores d’évaluation, les estimations de coûts et la latence.
Pour connaître la disponibilité des régions, consultez notre documentation. Pour connaître les tarifs, consultez la page de tarification de Bedrock. Pour commencer, utilisez les API Bedrock pour Advanced Prompt Optimizer ou visitez la console Bedrock.