本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
导入 SageMaker AI-trained Amazon Nova 车型
注意
要将开源模型导入 Amazon Bedrock,需要使用模型导入任务。有关更多信息,请参阅 使用自定义模型导入功能将自定义的开源模型导入 Amazon Bedrock 中。
要导入你使用 A SageMaker I 自定义的 Amazon Nova 模型,你需要在 Amazon Bedrock 中为它创建一个新的自定义模型。例如,如果您使用 SageMaker AI 对Amazon Nova Pro模型进行微调以提高其在特定用例中的性能,则可以将经过微调的模型作为自定义模型导入 Amazon Bedrock,然后使用它来运行推理。
在 SageMaker AI-trained Amazon Bedrock 中创建和使用 Amazon Nova 模型的工作原理如下:
-
在 SageMaker AI 中自定义模型 — 使用 SageMaker 人工智能训练作业,通过预先构建的基础配方自定义 Amazon Nova 模型。有关更多信息,请参阅亚马逊 A SageMaker I 开发者指南中的自定义 Amazon Nova 模型。
-
在 Amazon Bedrock 中创建自定义模型 — 使用 CreateCustomModelAPI 操作创建自定义模型。当您创建自定义模型时,Amazon Bedrock 会进行验证,然后从 A Amazon-managed mazon S3 存储桶中导入模型工件。SageMaker 当你运行第一个 AI 训练作业时, SageMaker AI 会创建这个存储桶。有关代码示例,请参阅创建自定义模型 (AWS 软件开发工具包)。
-
为自定义模型设置推理 – 导入过程完成后,即可为模型设置推理。有关更多信息,请参阅 为自定义模型设置推理。您可以通过模型自定义,像管理在 Amazon Bedrock 中创建的模型那样管理自定义模型。有关更多信息,请参阅 针对使用案例自定义模型以提高其性能。
您可以在以下区域使用 Amazon Nova 模型创建自定义模型(有关 Amazon Bedrock 支持的区域的更多信息,请参阅 Amazon Bedrock 端点和配额):
-
美国东部(弗吉尼亚州北部)
指南和要求
在导入 Amazon Nova 模型之前,请注意以下事项:
-
必须使用美国东部(弗吉尼亚州北部)区域。
-
在 SageMaker AI 中自定义模型时,必须使用以下 Amazon Nova 模型之一:
-
Amazon Nova Lite
-
Amazon Nova Micro
-
Amazon Nova Pro
-
-
当你在 SageMaker AI 中自定义模型时,你必须使用 AI SageMaker Amazon Nova 配方。有关更多信息,请参阅《亚马逊 A SageMaker I 开发者指南》中的 Amazon Nova 配方。
-
您的 SageMaker AI-trained 亚马逊 Nova 模型必须存储在 Amazon-managed 亚马逊 S3 存储桶中。 SageMaker 当你运行第一个 AI 训练作业时, SageMaker AI 会创建这个存储桶。
-
您的 Amazon Bedrock 服务角色必须有权访问 Amazon-managed Amazon S3 存储桶,如果指定,还必须有权访问您的 AWS KMS 密钥。有关创建角色的更多信息,请参阅为导入预训练模型创建服务角色。有关向角色授予使用您的 AWS KMS 密钥的权限的信息,请参阅导入的自定义模型的加密。
-
您只能使用 Amazon Bedrock API 从现有的 A SageMaker AI-trained mazon Nova 模型创建自定义模型。您不能使用 Amazon Bedrock 控制台。