厳選されたハブモデルをファインチューニングする

ユーザーの IAM ロールに SageMaker AI TrainHubModel アクセス許可がアタッチされていることを確認します。詳細については、AWS IAM ユーザーガイドの「IAM ID アクセス許可の追加および削除」を参照してください。

ユーザーの IAM ロールには、以下の例のようなポリシーをアタッチする必要があります。

ファインチューニングする JumpStart モデルへのモデル参照を含む、厳選されたプライベートハブを用意します。プライベートハブの作成の詳細については、「プライベートモデルハブを作成する」を参照してください。一般公開されている JumpStart モデルをプライベートハブに追加する方法については、「プライベートハブにモデルを追加する」を参照してください。

モデルのファインチューニングに使用するトレーニングデータセットを用意します。データセットは、ファインチューニングするモデルに適したトレーニング形式である必要があります。

SageMaker Python SDK の最新バージョン (少なくとも 2.242.0) がインストールされていることを確認します。詳細については、「Use Version 2.x of the SageMaker Python SDK」を参照してください。

!pip install --upgrade sagemaker

AWS SDK for Python (Boto3) と必要なモジュールを SageMaker Python SDK からインポートします。

import boto3
from sagemaker.jumpstart.estimator import JumpStartEstimator
from sagemaker.session import Session

Boto3 セッション、SageMaker AI クライアント、SageMaker Python SDK セッションを初期化します。

sagemaker_client = boto3.Session(region_name=<AWS-region>).client("sagemaker")
sm_session = Session(sagemaker_client=sagemaker_client)

JumpStartEstimator を作成し、JumpStart モデル ID、モデル参照を含むハブの名前、SageMaker Python SDK セッションを指定します。モデル ID のリストについては、「Built-in Algorithms with Pre-trained Model Table」を参照してください。

必要に応じて、推定器の作成時に instance_type フィールドと instance_count フィールドを指定できます。指定しない場合、トレーニングジョブでは使用しているモデルのデフォルトのインスタンスタイプとカウントを使用します。

必要に応じて、ファインチューニングされたモデルの重みを保存する Amazon S3 の場所を output_path で指定することもできます。output_path を指定しない場合、デフォルトの SageMaker AI Amazon S3 バケットをアカウントのリージョンに使用します。名前は sagemaker-<region>-<account-id> という形式になります。

estimator = JumpStartEstimator(
    model_id="meta-textgeneration-llama-3-2-1b",
    hub_name=<your-hub-name>,
    sagemaker_session=sm_session, # If you don't specify an existing session, a default one is created for you
    # Optional: specify your desired instance type and count for the training job
    # instance_type = "ml.g5.2xlarge"
    # instance_count = 1
    # Optional: specify a custom S3 location to store the fine-tuned model artifacts
    # output_path: "s3://<output-path-for-model-artifacts>"
)

ファインチューニングデータセットの場所を指定する training キーを使用してディクショナリを作成します。この例では Amazon S3 URI を参照しています。ローカルモードや複数のトレーニングデータチャネルの使用など、その他の考慮事項がある場合は、SageMaker Python SDK ドキュメントの「JumpStartEstimator.fit()」で詳細を参照してください。

training_input = {
    "training": "s3://<your-fine-tuning-dataset>"
}

推定器の fit() メソッドを呼び出し、トレーニングデータと EULA の同意 (該当する場合) を渡します。

estimator.fit(inputs=training_input, accept_eula=False)