Amazon Bedrock でプロンプトを最適化して移行する

シンプルな最適化では、1 つのモデルに対して 1 つの短いプロンプトを迅速かつヒューリスティックに書き換えることができます。

Advanced Prompt Optimization (AdvPO) を使用すると、Bedrock 上の任意のモデルのプロンプトを最適化しながら、元のプロンプトと最大 5 つのモデルにわたって最適化されたプロンプトを同時に比較できます。

これは、新しいモデルに移行する場合や、現在のモデルのパフォーマンスを向上させたい場合に使用できます。モデルを変更する場合は、現在のモデルをベースラインとして選択し、他のモデルを最大 4 つまで選択します。モデルを変更しない場合は、現在のモデルを選択して、最適化の前後を確認します。オプティマイザは、プロンプトテンプレート (ジョブあたり最大 10 個) と変数値のユーザー入力例 (プロンプトテンプレートあたり最大 100 個) を取得します。また、最適化の指針となるグラウンドトゥルース回答と評価メトリクスも必要です。jpeg、png、PDF などのマルチモーダル入力とも互換性があります。LLM-as-a-judge rubric、Lambda 関数、または短い自然言語ステアリング基準を指定できます。評価はプロンプトの最適化を誘導します。オプティマイザは、評価ベースのフィードバックループで動作し、プロンプトと結果のモデルレスポンスを最適化します。評価スコア、コスト見積もり、レイテンシーを含む元のプロンプトテンプレートと最終的なプロンプトテンプレートを出力します。