View a markdown version of this page

使用單一知識庫最佳化 Amazon Bedrock 代理人的效能 - Amazon Bedrock

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

使用單一知識庫最佳化 Amazon Bedrock 代理人的效能

Amazon Bedrock 代理人提供選擇不同流程的選項，可針對代理程式只有一個知識庫的較簡單使用案例來最佳化延遲狀況。為了確保您的代理程式能夠利用此最佳化，請檢查下列條件是否適用於代理程式的相關版本：

  • 您的代理程式只包含一個知識庫。

  • 您的代理程式不包含任何動作群組，或全部停用。

  • 如果使用者沒有足夠的資訊，您的代理程式不會請求使用者提供更多資訊。

  • 您的代理程式正在使用預設協同運作提示範本。

當符合這些條件時，服務會減少處理請求所需的 LLM 呼叫數量。如果您覆寫預設協同運作提示範本，代理程式會改用標準協同運作流程，這可能需要額外的 LLM 呼叫並增加延遲。

若要了解如何檢查這些條件，請選擇您偏好方法的索引標籤，然後遵循下列步驟：

Console

  1. AWS 管理主控台 使用具有使用 Amazon Bedrock 主控台之許可的 IAM 身分登入 。接著，開啟位於 https://console.aws.amazon.com/bedrock 的 Amazon Bedrock 主控台。

  2. 從左側導覽窗格選取代理程式。接著，在代理程式區段中選擇代理程式。

  3. 在代理程式概觀區段中，檢查使用者輸入欄位是否為 DISABLED。

  4. 如果您正要檢查最佳化是否套用至代理程式的工作草稿，請選取工作草稿區段中的工作草稿。如果您正在檢查最佳化是否套用至代理程式版本，請在版本區段中選取版本。

  5. 檢查知識庫區段是否只包含一個知識庫。如果有多個知識庫，請保留一個，停用其他所有知識庫。若要了解如何停用知識庫，請參閱取消代理程式與知識庫的關聯。

  6. 檢查動作群組區段是否不包含動作群組。如果有動作群組，請停用所有群組。若要了解如何停用動作群組，請參閱修改動作群組。

  7. 在進階提示區段中，檢查協同運作欄位值是否為預設值。如果是已覆寫，請選擇編輯 (如果您正在檢視代理程式版本，您必須先導覽至工作草稿)，然後執行下列動作：

    1. 在進階提示區段中，選取協同運作索引標籤。

    2. 如果您將範本還原為預設設定，您的自訂提示範本將被刪除。如果您稍後需要範本，請務必儲存範本。

    3. 清除覆寫協同運作範本預設值。確認顯示的訊息。

  8. 若要套用您所做的任何變更，請選取代理程式詳細資訊頁面頂端或測試視窗中的準備。然後，透過在測試視窗中提交訊息來測試代理程式的最佳化效能。

  9. (選用) 如有必要，請依照在應用程式中部署和使用 Amazon Bedrock 代理人中的步驟建立新的代理程式版本。

API

  1. 使用 Amazon Bedrock 代理人建置時期端點傳送 ListAgentKnowledgeBases 請求，並指定代理程式的 ID。對於 agentVersion，請將 DRAFT 用於工作草稿或指定相關版本。在回應中，檢查 agentKnowledgeBaseSummaries 是否只包含一個物件 (對應至一個知識庫)。如果有多個知識庫，請保留一個，停用其他所有知識庫。若要了解如何停用知識庫，請參閱取消代理程式與知識庫的關聯。

  2. 使用 Amazon Bedrock 代理人建置時期端點傳送 ListAgentActionGroups 請求，並指定代理程式的 ID。對於 agentVersion，請將 DRAFT 用於工作草稿或指定相關版本。在回應中，檢查 actionGroupSummaries 清單是否為空。如果有動作群組，請停用所有群組。若要了解如何停用動作群組，請參閱修改動作群組。

  3. 使用 Amazon Bedrock 代理人建置時期端點傳送 GetAgent 請求，並指定代理程式的 ID。在回應的 promptOverrideConfiguration 欄位的 promptConfigurations 清單中，尋找 promptType 值為 ORCHESTRATION 的 PromptConfiguration 物件。如果 promptCreationMode 值為 DEFAULT，則無需執行任何動作。如果是 OVERRIDDEN，請執行下列動作，將範本還原為預設設定：

    1. 如果您將範本還原為預設設定，您的自訂提示範本將被刪除。如果您稍後需要範本，請務必從 basePromptTemplate 欄位儲存範本。

    2. 使用 Amazon Bedrock 代理人建置時期端點傳送 UpdateAgent 請求。對於對應至協同運作範本的 PromptConfiguration 物件，將 promptCreationMode 的值設定為 DEFAULT。

  4. 若要套用您所做的任何變更，請使用 Amazon Bedrock 代理人建置時期端點傳送 PrepareAgent 請求。然後，使用代理程式的 TSTALIASID 別名，透過向 Amazon Bedrock 代理人執行時期端點提交 InvokeAgent 請求，來測試代理程式的最佳化效能。

  5. (選用) 如有必要，請依照在應用程式中部署和使用 Amazon Bedrock 代理人中的步驟建立新的代理程式版本。