本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。
# 在 Studio 中使用基礎模型
Amazon SageMaker Studio 允許您直接透過 Studio 使用者介面微調、部署和評估公開可用和專屬的 JumpStart 基礎模型。
**重要**
自 2023 年 11 月 30 日起，先前的 Amazon SageMaker Studio 體驗現在名為 Amazon SageMaker Studio Classic。下節專門介紹如何使用更新的 Studio 體驗。如需使用 Studio Classic 應用程式的資訊，請參閱 [Amazon SageMaker Studio Classic](studio.md)。
若要開始使用，請導覽至 Amazon SageMaker Studio 中的 JumpStart 登陸頁面。您可以從**首頁**或左側面板功能表存取它。在 **JumpStart** 登陸頁面上，您可以從公開可用和專屬模型的提供者探索模型中樞，並搜尋模型。
在每個模型中樞中，您可以依**最受喜歡**、**最多下載**、**最近更新**或依任務篩選模型。選擇模型以檢視其詳細資訊卡。在模型詳細資訊卡上，您可以選擇**微調**、**部署**或**評估**模型，視可用的選項而定。請注意，並非所有模型都可用於微調或評估。
如需開始使用 Amazon SageMaker Studio 的詳細資訊，請參閱[Amazon SageMaker Studio](studio-updated.md)。
**Topics**
+ [在 Studio 中微調模型](jumpstart-foundation-models-use-studio-updated-fine-tune.md)
+ [在 Studio 中部署模型](jumpstart-foundation-models-use-studio-updated-deploy.md)
+ [在 Studio 中評估模型](jumpstart-foundation-models-use-studio-updated-evaluate.md)
+ [在 Amazon Bedrock 中使用您的 SageMaker JumpStart 模型](jumpstart-foundation-models-use-studio-updated-register-bedrock.md)
# 在 Studio 中微調模型
微調會在新資料集上訓練預先訓練的模型，而不需要從頭開始訓練。這個程序也稱為移轉學習，可以利用較小的資料集和較短的訓練時間來產生精確的模型。若要微調 JumpStart 基礎模型，請導覽至 Studio 使用者介面中的模型詳細資訊卡。如需如何在 Studio 中開啟 JumpStart 的詳細資訊，請參閱[在 Studio 中開啟 JumpStart](studio-jumpstart.md#jumpstart-open-studio)。導覽至您選擇的模型詳細資訊卡後，選擇右上角的**訓練**。請注意，並非所有模型都微調功能。
**重要**
某些基礎模型必須先明確接受終端使用者授權協議 (EULA)，才能進行微調。如需詳細資訊，請參閱[在 Amazon SageMaker Studio 接受 EULA](jumpstart-foundation-models-choose.md#jumpstart-foundation-models-choose-eula-studio)。
## 模型設定
在 Amazon SageMaker Studio 中使用預先訓練的 JumpStart 基礎模型時，預設會填入**模型成品位置 (Amazon S3 URI)**。若要編輯預設 Amazon S3 URI，請選擇**輸入模型成品位置**。並非所有模型都支援變更模型成品位置。
## 資料設定
在**資料**欄位中，提供訓練資料集位置的 Amazon S3 URI 點。預設 Amazon S3 URI 指向範例訓練資料集。若要編輯預設的 Amazon S3 URI，請選擇**輸入訓練資料集**並變更 URI。請務必檢閱 Amazon SageMaker Studio 中的模型詳細資訊卡，以取得格式化訓練資料的相關資訊。
## 超參數
您可以自訂用於微調模型的訓練工作的超參數。每個可微調模型的可用超參數視模型而有所不同。
以下超參數在模型中很常見：
+ **時期** - 一個時期是整個資料集的一個循環。一個批次包括多個間隔，多個批次最終組成一個時期。執行多個週期，直到模型的精準度達到可接受的程度，或者當誤差率降至可接受的程度以下為止。
+ **學習速率** - 值應該在時期之間改變的量。在改良模型時，會推動其內部權重，並檢查錯誤率以查看模型是否有所改善。典型的學習速率是 0.1 或 0.01，其中 0.01 是較小的調整，可能會導致訓練需要很長時間才能收斂，而 0.1 則大得多，可能導致訓練過衝。它是您可以調整以訓練模型的主要超參數之一。請注意，針對文字模型，較小的學習速率要 (BERT 為 5e-5) 可能會帶來更準確的模型。
+ **Batch 大小** - 每個間隔從資料集中選擇要傳送到 GPU 進行訓練的記錄數。
檢閱 Studio UI 中模型詳細資訊卡中工具提示的提示和其他資訊，以進一步了解您所選擇模型特定的超參數。
如需超參數的詳細資訊，請參閱[通常支援的微調超參數](jumpstart-foundation-models-fine-tuning.md#jumpstart-foundation-models-fine-tuning-hyperparameters)。
## 部署
為您的訓練任務指定訓練執行個體類型和輸出成品位置。您只能從與您在微調 Studio 使用者介面時所選模型相容的執行個體中選擇。預設輸出成品位置是 SageMaker AI 預設儲存貯體。若要變更輸出成品位置，請選擇**輸入輸出成品位置**，然後變更 Amazon S3 URI。
## 安全
指定用於訓練任務的安全設定，包括 SageMaker AI 用來訓練模型的 IAM 角色、訓練任務是否應連線至虛擬私有雲端 (VPC)，以及任何可保護您資料的加密金鑰。
## 其他資訊
在**其他資訊**欄位中，您可以編輯訓練任務名稱。您也可以新增和移除採用鍵值對形式的標籤，以協助組織和分類微調訓練任務。
提供微調組態的資訊之後，請選擇**提交**。如果您選擇微調的預先訓練基礎模型在訓練之前必須明確接受最終使用者授權協議 (EULA)，則會在快顯視窗中提供 EULA。若要接受 EULA 的條款，請選擇**接受**。在下載或使用模型之前，您有責任審查並遵守任何適用的授權條款，並確保這些條款適用於您的使用案例。
# 在 Studio 中部署模型
若要部署 JumpStart 基礎模型，請在 Studio 使用者介面中導覽至模型詳細資訊卡。如需如何在 Studio 中開啟 JumpStart 的詳細資訊，請參閱[在 Studio 中開啟 JumpStart](studio-jumpstart.md#jumpstart-open-studio)。導覽至您選擇的模型詳細資訊頁面後，請選擇 Studio 使用者介面右上角的**部署**。然後，依照[使用 SageMaker Studio 部署模型](https://docs.aws.amazon.com/sagemaker/latest/dg/realtime-endpoints-deploy-models.html#deploy-models-studio)中的步驟進行。
**重要**
部分基礎模型需要在部署前明確接受終端使用者授權協議 (EULA)。如需詳細資訊，請參閱[在 Amazon SageMaker Studio 接受 EULA](jumpstart-foundation-models-choose.md#jumpstart-foundation-models-choose-eula-studio)。
# 在 Studio 中評估模型
Amazon SageMaker JumpStart 與 Studio 中的 SageMaker Clarify 基礎模型評估 (FME) 整合。如果 JumpStart 模型有可用的內建評估功能，您可以在 JumpStart Studio 使用者介面中選擇模型詳細資訊頁面右上角的**評估**。如需詳細資訊，請參閱[評估基礎模型](https://docs.aws.amazon.com/sagemaker/latest/dg/jumpstart-foundation-models-evaluate.html)。
# 在 Amazon Bedrock 中使用您的 SageMaker JumpStart 模型
您可以註冊您已從 Amazon SageMaker JumpStart 部署到 Amazon Bedrock 的模型。使用 Amazon Bedrock，您可以在多個端點之後託管模型。您也可以使用 Amazon Bedrock 功能，例如客服和知識庫。如需有關使用 Amazon Bedrock 模型的詳細資訊，請參閱[https://docs.aws.amazon.com/bedrock/latest/userguide/amazon-bedrock-marketplace.html](https://docs.aws.amazon.com/bedrock/latest/userguide/amazon-bedrock-marketplace.html)。
**重要**
若要將模型遷移至 Amazon Bedrock，建議您將 [AmazonBedrockFullAccess](https://docs.aws.amazon.com/aws-managed-policy/latest/reference/AmazonBedrockFullAccess.html) 政策連接至 IAM 角色。如果您無法連接受管政策，請確定您的 IAM 角色具有下列許可：
****
```
{
"Version":"2012-10-17",
"Statement": [
{
"Sid": "BedrockAll",
"Effect": "Allow",
"Action": [
"bedrock:*"
],
"Resource": "*"
},
{
"Sid": "DescribeKey",
"Effect": "Allow",
"Action": [
"kms:DescribeKey"
],
"Resource": "arn:*:kms:*:::*"
},
{
"Sid": "APIsWithAllResourceAccess",
"Effect": "Allow",
"Action": [
"iam:ListRoles",
"ec2:DescribeVpcs",
"ec2:DescribeSubnets",
"ec2:DescribeSecurityGroups"
],
"Resource": "*"
},
{
"Sid": "MarketplaceModelEndpointMutatingAPIs",
"Effect": "Allow",
"Action": [
"sagemaker:CreateEndpoint",
"sagemaker:CreateEndpointConfig",
"sagemaker:CreateModel",
"sagemaker:CreateInferenceComponent",
"sagemaker:DeleteInferenceComponent",
"sagemaker:DeleteEndpoint",
"sagemaker:UpdateEndpoint"
],
"Resource": [
"arn:aws:sagemaker:*:*:endpoint/*",
"arn:aws:sagemaker:*:*:endpoint-config/*",
"arn:aws:sagemaker:*:*:model/*"
],
"Condition": {
"StringEquals": {
"aws:CalledViaLast": "bedrock.amazonaws.com"
}
}
},
{
"Sid": "BedrockEndpointTaggingOperations",
"Effect": "Allow",
"Action": [
"sagemaker:AddTags",
"sagemaker:DeleteTags"
],
"Resource": [
"arn:aws:sagemaker:*:*:endpoint/*",
"arn:aws:sagemaker:*:*:endpoint-config/*",
"arn:aws:sagemaker:*:*:model/*"
]
},
{
"Sid": "MarketplaceModelEndpointNonMutatingAPIs",
"Effect": "Allow",
"Action": [
"sagemaker:DescribeEndpoint",
"sagemaker:DescribeEndpointConfig",
"sagemaker:DescribeModel",
"sagemaker:DescribeInferenceComponent",
"sagemaker:ListEndpoints",
"sagemaker:ListTags"
],
"Resource": [
"arn:aws:sagemaker:*:*:endpoint/*",
"arn:aws:sagemaker:*:*:endpoint-config/*",
"arn:aws:sagemaker:*:*:model/*"
],
"Condition": {
"StringEquals": {
"aws:CalledViaLast": "bedrock.amazonaws.com"
}
}
},
{
"Sid": "BedrockEndpointInvokingOperations",
"Effect": "Allow",
"Action": [
"sagemaker:InvokeEndpoint",
"sagemaker:InvokeEndpointWithResponseStream"
],
"Resource": [
"arn:aws:sagemaker:*:*:endpoint/*"
],
"Condition": {
"StringEquals": {
"aws:CalledViaLast": "bedrock.amazonaws.com"
}
}
},
{
"Sid": "DiscoveringMarketplaceModel",
"Effect": "Allow",
"Action": [
"sagemaker:DescribeHubContent"
],
"Resource": [
"arn:aws:sagemaker:*:aws:hub-content/SageMakerPublicHub/Model/*",
"arn:aws:sagemaker:*:aws:hub/SageMakerPublicHub"
]
},
{
"Sid": "AllowMarketplaceModelsListing",
"Effect": "Allow",
"Action": [
"sagemaker:ListHubContents"
],
"Resource": "arn:aws:sagemaker:*:aws:hub/SageMakerPublicHub"
},
{
"Sid": "RetrieveSubscribedMarketplaceLicenses",
"Effect": "Allow",
"Action": [
"license-manager:ListReceivedLicenses"
],
"Resource": [
"*"
]
},
{
"Sid": "PassRoleToSageMaker",
"Effect": "Allow",
"Action": [
"iam:PassRole"
],
"Resource": [
"arn:aws:iam::*:role/*Sagemaker*ForBedrock*"
],
"Condition": {
"StringEquals": {
"iam:PassedToService": [
"sagemaker.amazonaws.com",
"bedrock.amazonaws.com"
]
}
}
},
{
"Sid": "PassRoleToBedrock",
"Effect": "Allow",
"Action": [
"iam:PassRole"
],
"Resource": "arn:aws:iam::*:role/*AmazonBedrock*",
"Condition": {
"StringEquals": {
"iam:PassedToService": [
"bedrock.amazonaws.com"
]
}
}
}
]
}
```
Amazon Bedrock 完整存取政策僅提供對 Amazon Bedrock API 的許可。若要在 中使用 Amazon Bedrock AWS 管理主控台，您的 IAM 角色也必須具有下列許可：
```
{
"Sid": "AllowConsoleS3AccessForBedrockMarketplace",
"Effect": "Allow",
"Action": [
"s3:GetObject",
"s3:GetBucketCORS",
"s3:ListBucket",
"s3:ListBucketVersions",
"s3:GetBucketLocation"
],
"Resource": "*"
}
```
如果您正在撰寫自己的政策，則必須包含允許資源其 Amazon Bedrock 市集動作的政策陳述式。例如，下列政策允許 Amazon Bedrock 針對您已部署至端點的模型使用 `InvokeModel` 操作。
****
```
{
"Version":"2012-10-17",
"Statement": [
{
"Sid": "BedrockAll",
"Effect": "Allow",
"Action": [
"bedrock:InvokeModel"
],
"Resource": [
"arn:aws:bedrock:us-east-1:111122223333:marketplace/model-endpoint/all-access"
]
},
{
"Sid": "VisualEditor1",
"Effect": "Allow",
"Action": ["sagemaker:InvokeEndpoint"],
"Resource": "arn:aws:sagemaker:us-east-1:111122223333:endpoint/*",
"Condition": {
"StringEquals": {
"aws:ResourceTag/project": "example-project-id",
"aws:CalledViaLast": "bedrock.amazonaws.com"
}
}
}
]
}
```
部署模型之後，您便可以在 Amazon Bedrock 中使用該模型。若要查看您是否可以在 Amazon Bedrock 中使用它，請導覽至 Studio 使用者介面中的模型詳細資訊卡。如果模型卡表示 **Bedrock 準備就緒**，您可以向 Amazon Bedrock 註冊模型。
**重要**
根據預設，Amazon SageMaker JumpStart 會停用您所部署模型的網路存取權。如果您已啟用網路存取權，您便無法將模型搭配 Amazon Bedrock 使用。如果您想要將模型搭配 Amazon Bedrock 使用，則必須在停用網路存取權的情況下重新部署模型。
若要搭配 Amazon Bedrock 使用，請導覽至**端點詳細資訊**頁面，然後選擇 Studio 使用者介面右上角的**搭配 Bedrock 使用**。看到快顯視窗後，選擇**向 Bedrock 註冊**。