SageMaker AI で Amazon Nova モデルをカスタマイズする
注記
このドキュメントは Amazon Nova バージョン 1 を対象としています。Amazon Nova 2 が新しいモデルと拡張機能で利用可能になりました。Amazon Nova 2 をカスタマイズする方法については、「Amazon Nova 2 モデルのカスタマイズ」を参照してください。
拡張 Amazon Nova 2.0 モデルを含む Amazon Nova モデルをレシピでカスタマイズし、SageMaker でトレーニングできます。これらのレシピでは、フルランクおよび Low-Rank Adaptation (LoRA) オプションの両方で、教師ありファインチューニング (SFT) や直接選好最適化 (DPO)、強化ファインチューニング (RFT) などの手法をサポートしています。
エンドツーエンドカスタマイズワークフローには、モデルトレーニング、モデル評価、推論のためのデプロイなどのステージが含まれます。SageMaker のこのモデルカスタマイズアプローチは、サポートされている Amazon Nova モデルをファインチューニングし、ハイパーパラメータを正確に最適化し、LoRA Parameter-Efficient Fine Tuning (PEFT)、フルランク SFT、DPO、RFT、継続的な事前トレーニング (CPT)、Proximal Policy Optimization (PPO) などの手法を実装するための柔軟性とコントロールをもたらします。
SageMaker には、Amazon Nova モデルをカスタマイズするための 2 つの環境が用意されています。
-
SageMaker トレーニングジョブには、クラスターを作成または維持管理する必要がない、Amazon Nova モデルをカスタマイズするためのフルマネージド環境が用意されています。このサービスでは、すべてのインフラストラクチャのプロビジョニング、スケーリング、リソース管理が自動的に処理されるため、トレーニングパラメータの設定とジョブの送信のみに集中できます。Parameter Efficient Fine-tuning (PEFT)、フルランクファインチューニング、直接選好最適化 (DPO)、強化ファインチューニング (RFT) などの手法を使用して、SageMaker トレーニングジョブで Nova モデルをカスタマイズできます。詳細については、「SageMaker トレーニングジョブでの Amazon Nova のカスタマイズ」を参照してください。
注記
Amazon 所有の出力 S3 バケットで暗号化するために Amazon Nova モデルカスタマイズトレーニングジョブに KMS キーを指定する場合:
-
後続の反復トレーニングジョブを呼び出すとき、または暗号化されたモデルを利用して Amazon Bedrock CreateCustomModel API を呼び出すときは、同じ KMS キーを指定する必要があります。
-
CreateTrainingJobAPI を呼び出す ID (実行ロールではなく) には、KMS キーポリシーで定義されているCreateGrant、RetireGrant、Encrypt、およびGenerateDataKeyへのアクセス許可が必要です。
-
-
SageMaker HyperPod には、制限されたインスタンスグループ (RIG) がある EKS クラスターの作成と管理を必須とすることで、Amazon Nova モデルをトレーニングするための特殊な環境が用意されています。この環境では、特殊な GPU インスタンスと統合された Amazon FSx for Lustre ストレージを使用してトレーニング環境を柔軟に設定できるため、高度な分散トレーニングシナリオや継続的なモデル開発に特に適しています。詳細については、「SageMaker HyperPod での Amazon Nova のカスタマイズ」を参照してください。
この章の内容
