View a markdown version of this page

优化仅使用一个知识库的 Amazon Bedrock 代理的性能 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

优化仅使用一个知识库的 Amazon Bedrock 代理的性能

Amazon Bedrock 代理提供了选择不同流程的选项，这些流程可以针对代理仅有一个知识库的简单应用场景优化延迟。为确保您的代理能够利用这一优化，请确定以下条件是否适用于代理的相关版本：

  • 您的代理仅包含一个知识库。

  • 您的代理不包含任何操作组，或者操作组都已被禁用。

  • 如果没有足够的信息，代理不会请求用户提供更多信息。

  • 您的代理使用默认的编排提示模板。

当满足这些条件时，该服务会减少处理请求所需的 LLM 调用次数。如果您覆盖默认的编排提示模板，则代理将改用标准编排流程，这可能需要额外的 LLM 调用并增加延迟。

要了解如何检查上述条件，请选择与您的首选方法对应的选项卡，然后按照以下步骤操作：

Console

  1. 使用有权使用 Amazon Bedrock 控制台的 IAM 身份登录。 AWS 管理控制台 然后，打开 Amazon Bedrock 控制台，网址为https://console.aws.amazon.com/bedrock。

  2. 从左侧导航窗格中选择代理。然后，在代理部分选择一个代理。

  3. 在代理概述部分，检查用户输入字段的状态是否为已禁用。

  4. 如果您要检查是否已将优化应用于代理的工作草稿，请在工作草稿部分选择工作草稿。如果您要检查是否已将优化应用于代理的某个版本，请在版本部分选择该版本。

  5. 检查知识库部分是否仅包含一个知识库。如果有多个知识库，请禁用所有知识库，只保留一个。要了解如何禁用知识库，请参阅 取消知识库与代理的关联。

  6. 检查操作组部分是否包含任何操作组。如果存在操作组，请禁用所有操作组。要了解如何禁用操作组，请参阅 修改操作组。

  7. 在高级提示部分，检查编排字段的值是否为默认。如果是已覆盖，请选择编辑（如果您正在查看代理的某个版本，则必须先导航到工作草稿），然后执行以下操作：

    1. 在高级提示部分，选择编排选项卡。

    2. 如果您将模板恢复为默认设置，您的自定义提示模板将被删除。如果以后需要，请确保保存您的模板。

    3. 清除覆盖编排模板默认设置。确认系统显示的消息。

  8. 要应用您所做的任何更改，请在代理详细信息页面顶部或测试窗口中选择准备。然后，通过在测试窗口中提交消息来测试代理的优化性能。

  9. （可选）如有必要，按照在您的应用程序中部署和使用 Amazon Bedrock 代理中的步骤创建代理的新版本。

API

  1. 使用 Amazon Bedrock 代理构建时端点发送 ListAgentKnowledgeBases 请求并指定代理 ID。对于 agentVersion，请使用 DRAFT 表示工作草稿，或者指定相关版本。在响应中，检查 agentKnowledgeBaseSummaries 是否仅包含一个对象（对应一个知识库）。如果有多个知识库，请禁用所有知识库，只保留一个。要了解如何禁用知识库，请参阅 取消知识库与代理的关联。

  2. 使用 Amazon Bedrock 代理构建时端点发送 ListAgentActionGroups 请求并指定代理 ID。对于 agentVersion，请使用 DRAFT 表示工作草稿，或者指定相关版本。在响应中，检查 actionGroupSummaries 列表是否为空。如果存在操作组，请禁用所有操作组。要了解如何禁用操作组，请参阅 修改操作组。

  3. 使用 Amazon Bedrock 代理构建时端点发送 GetAgent 请求并指定代理 ID。在响应中，在promptOverrideConfiguration字段的promptConfigurations列表中，查找其promptType值为的PromptConfiguration对象ORCHESTRATION。如果 promptCreationMode 的值为 DEFAULT，则无需执行任何操作。如果值为 OVERRIDDEN，请按照以下步骤将模板恢复为默认设置：

    1. 如果您将模板恢复为默认设置，您的自定义提示模板将被删除。如果以后需要，请确保从 basePromptTemplate 字段保存您的模板。

    2. 使用 Amazon Bedrock 代理构建时端点发送 UpdateAgent 请求。对于与编排模板对应的PromptConfiguration对象，将的值设置为promptCreationMode。DEFAULT

  4. 要应用您所做的任何更改，请使用 Amazon Bedrock 代理构建时端点发送 PrepareAgent 请求。然后，使用 Amazon Bedrock 代理运行时端点提交 InvokeAgent 请求，同时使用代理的 TSTALIASID 别名，以便测试代理的优化性能。

  5. （可选）如有必要，按照在您的应用程序中部署和使用 Amazon Bedrock 代理中的步骤创建代理的新版本。