Amazon Bedrock presenta uno strumento avanzato di ottimizzazione e migrazione dei prompt
I clienti trascorrono giorni o settimane a ottimizzare i prompt e a valutare le risposte quando desiderano migrare a un nuovo modello o semplicemente ottenere prestazioni migliori dal modello attuale. Hanno difficoltà a modificare rapidamente i propri prompt e quindi a testarli per prevenire regressioni e migliorare le attività con prestazioni inferiori. Queste situazioni richiedono lo stesso strumento: un ottimizzatore di prompt con valutazioni integrate.
Oggi Amazon Bedrock presenta Advanced Prompt Optimization, un nuovo strumento che consente ai clienti di ottimizzare i propri prompt per qualsiasi modello su Bedrock, confrontando i prompt originali con quelli ottimizzati su un massimo di 5 modelli contemporaneamente. I clienti possono utilizzare questa funzionalità se stanno migrando a un nuovo modello o se desiderano semplicemente ottenere prestazioni migliori sul modello attuale. Se stanno cambiando modello, possono selezionare il modello attuale come baseline e fino a 4 altri modelli. Se non stanno cambiando modello, selezionano semplicemente il modello attuale per vedere il prima e il dopo l'ottimizzazione. L'ottimizzatore acquisisce modelli di prompt, esempi di input utente per i valori delle variabili, risposte ground truth opzionali e una metrica di valutazione o brevi criteri in linguaggio naturale da utilizzare come guida. È persino compatibile con input multimodali come file JPG, PNG o PDF. L'ottimizzatore dei prompt funziona in un ciclo di feedback per indirizzare il prompt e le conseguenti risposte del modello verso l'ottimizzazione della metrica di valutazione, restituendo i modelli di prompt originali e finali con i relativi punteggi di valutazione, le stime dei costi e la latenza.
Per la disponibilità regionale, consulta la nostra documentazione. Per informazioni sui costi, consulta la pagina dei prezzi di Bedrock. Per iniziare, utilizza le API di Bedrock per Advanced Prompt Optimizer o visita la console di Bedrock.