微調彙整中樞模型

請確定使用者的 IAM 角色已連接 SageMaker AI TrainHubModel 許可。如需詳細資訊，請參閱《AWS IAM 使用者指南》中的新增和移除 IAM 身分許可。

您應將如下列範例的政策連接至您使用者的 IAM 角色。

擁有私有彙整中樞，其中包含所要微調 JumpStart 模型的模型參考。如需建立私有中樞的詳細資訊，請參閱建立私有模型中樞。若要了解如何將公開可用的 JumpStart 模型新增至私有中樞，請參閱將模型新增至私有中樞。

具有您想要用來微調模型的訓練資料集。資料集應該採用適合所要微調模型的訓練格式。

請確定您已安裝最新版本的 SageMaker Python SDK (至少 2.242.0 版)。如需詳細資訊，請參閱使用 SageMaker Python SDK 的版本 2.x。

!pip install --upgrade sagemaker

從 SageMaker Python SDK 匯入您需要的 適用於 Python (Boto3) 的 AWS SDK 和模組。

import boto3
from sagemaker.jumpstart.estimator import JumpStartEstimator
from sagemaker.session import Session

初始化 Boto3 工作階段、SageMaker AI 用戶端和 SageMaker Python SDK 工作階段。

sagemaker_client = boto3.Session(region_name=<AWS-region>).client("sagemaker")
sm_session = Session(sagemaker_client=sagemaker_client)

建立 JumpStartEstimator 並提供 JumpStart 模型 ID、包含模型參考的中樞名稱，以及 SageMaker Python SDK 工作階段。如需模型 ID 的清單，請參閱具備預先訓練模型表的內建演算法。

您可以選擇性地在建立估算器時指定 instance_type 和 instance_count 欄位。如果您沒有這麼做，訓練任務會使用您正使用模型的預設執行個體類型和計數。

您也可以選擇性地指定您要存放經微調的模型權重之 Amazon S3 位置的 output_path。如果您未指定 output_path，則會將預設 SageMaker AI Amazon S3 儲存貯體用於您帳戶中的區域，並採用以下格式命名：sagemaker-<region>-<account-id>。

estimator = JumpStartEstimator(
    model_id="meta-textgeneration-llama-3-2-1b",
    hub_name=<your-hub-name>,
    sagemaker_session=sm_session, # If you don't specify an existing session, a default one is created for you
    # Optional: specify your desired instance type and count for the training job
    # instance_type = "ml.g5.2xlarge"
    # instance_count = 1
    # Optional: specify a custom S3 location to store the fine-tuned model artifacts
    # output_path: "s3://<output-path-for-model-artifacts>"
)

使用 training 索引鍵建立一個字典，您會在該索引鍵中指定微調資料集的位置。此範例指向 Amazon S3 URI。如果您有其他考量，例如使用本機模式或多個訓練資料通道，請參閱 SageMaker Python SDK 文件中的 JumpStartEstimator.fit() 以取得詳細資訊。

training_input = {
    "training": "s3://<your-fine-tuning-dataset>"
}

呼叫估算器的 fit() 方法，傳入您的訓練資料並接受 EULA (若適用的話)。

estimator.fit(inputs=training_input, accept_eula=False)