View a markdown version of this page

模型來源和授權協議 - Amazon SageMaker AI

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

模型來源和授權協議

Amazon SageMaker JumpStart 可讓您存取來自第三方來源和合作夥伴的數百個公開且專屬的基礎模型。您可以直接在 SageMaker AI 主控台、Studio 或 Studio Classic 中探索 JumpStart 基礎模型選取項目。

授權和模型來源

Amazon SageMaker JumpStart 提供對公開和專屬基礎模型的存取。基礎模型由第三方開源和專屬提供商開放和維護。因此,它們會根據模型來源指定的不同授權來發行。請務必檢閱您使用的任何基礎模型的授權。在下載或使用內容之前,您有責任檢查並遵守任何適用的授權條款,並確定這些條款適用於您的使用案例。以下是一些常見基礎模型授權的例子:

  • Alexa Teacher Model

  • Apache 2.0

  • BigScience Responsible AI License v1.0

  • CreativeML Open RAIL++-M 授權

同樣地,對於任何專屬的基礎模型,請務必檢閱並遵守模型供應商提供的任何使用條款和使用準則。如果您對特定專屬模型的授權資訊有任何疑問,請直接聯絡模型供應商。您可以在 AWS Marketplace中每個模型頁面的支援標籤中找到模型提供者聯絡資訊。

終端使用者授權協議

部分 JumpStart 基礎模型需要在使用前明確接受終端使用者授權協議 (EULA)。

在 Amazon SageMaker Studio 接受 EULA

在 Studio 中微調、部署或評估 JumpStart 基礎模型之前,系統可能會提示您接受終端使用者授權協議。若要開始使用 Studio 中的 JumpStart 基礎模型,請參閱在 Studio 中使用基礎模型

重要

自 2023 年 11 月 30 日起,先前的 Amazon SageMaker Studio 體驗現在名為 Amazon SageMaker Studio Classic。下節專門介紹如何使用更新的 Studio 體驗。如需使用 Studio Classic 應用程式的資訊,請參閱 Amazon SageMaker Studio Classic

部分 JumpStart 基礎模型需要在部署前接受終端使用者授權協議。如果這適用於您選擇使用的基礎模型,則 Studio 會以包含 EULA 內容的視窗來提示您。在下載或使用模型之前,您有責任審查並遵守任何適用的授權條款,並確保這些條款適用於您的使用案例。

在 Amazon SageMaker Studio Classic 中接受 EULA

在部署 JumpStart 基礎模型或在 Studio Classic 中開啟 JumpStart 基礎模型筆記本之前,系統可能會提示您接受終端使用者授權協議。若要開始使用 Studio Classic 中的 JumpStart 基礎模型,請參閱在 Amazon SageMaker Studio Classic 中使用基礎模型

重要

自 2023 年 11 月 30 日起,先前的 Amazon SageMaker Studio 體驗現在名為 Amazon SageMaker Studio Classic。下節專門介紹如何使用 Studio Classic 應用程式。如需使用已更新 Studio 體驗的資訊,請參閱 Amazon SageMaker Studio

Studio Classic 仍會針對現有工作負載進行維護,但無法再用於加入。您只能停止或刪除現有的 Studio Classic 應用程式,而且無法建立新的應用程式。我們建議您將工作負載遷移至新的 Studio 體驗

部分 JumpStart 基礎模型需要在部署前接受終端使用者授權協議。如果這適用於您選擇使用的基礎模型,Studio Classic 會在您選擇部署開啟筆記本之後,提示您一個名為檢閱使用者授權合約 (EULA) 和可接受使用政策 (AUP)的視窗。在下載或使用模型之前,您有責任審查並遵守任何適用的授權條款,並確保這些條款適用於您的使用案例。

使用 SageMaker Python SDK 接受 EULA

下列各節說明如何在使用 SageMaker Python SDK 部署或微調 JumpStart 模型時明確宣告接受 EULA。如需利用 SageMaker Python SDK 開始使用 JumpStart 基礎模型的詳細資訊,請參閱搭配 SageMaker Python SDK 使用基礎模型

開始之前,請務必備妥下列項目:

  • 升級至所使用模型的最新版本。

  • 安裝最新版本的 SageMaker Python SDK。

重要

若要使用下列工作流程,您必須安裝 v2.198.0 或更新版本的 SageMaker Python SDK。

部署 JumpStart 模型時接受 EULA

對於需要接受終端使用者授權協議的模型,您必須在部署 JumpStart 模型時明確宣告接受 EULA。

from sagemaker.jumpstart.model import JumpStartModel model_id = "meta-textgeneration-llama-2-13b" my_model = JumpStartModel(model_id=model_id) # Declare EULA acceptance when deploying your JumpStart model predictor = my_model.deploy(accept_eula=True)

依預設,此 accept_eula 值 為 None,且必須明確地重新定義為 True,才能接受終端使用者授權協議。如需詳細資訊,請參閱 JumpStartModel

微調 JumpStart 模型時接受 EULA

若微調的模型需要接受終端使用者授權協議,則您必須在執行 JumpStart 估算器的 fit() 方法時明確宣告接受 EULA。微調預先訓練的模型後,原始模型的權重會改變。因此,當您之後部署經微調的模型時,您不需要接受 EULA。

注意

下列範例會設定 accept_eula=False。您應該手動將值變更為 True,以接受 EULA。

from sagemaker.jumpstart.estimator import JumpStartEstimator model_id = "meta-textgeneration-llama-2-13b" # Declare EULA acceptance when defining your JumpStart estimator estimator = JumpStartEstimator(model_id=model_id) estimator.fit(accept_eula=False, {"train": training_dataset_s3_path, "validation": validation_dataset_s3_path} )

accept_eula 值預設為 None,且必須明確地重新定義為 fit() 方法內的 "true",才能接受終端使用者授權協議。如需詳細資訊,請參閱 JumpStartEstimator

EULA 接受 SageMaker Python SDK 2.198.0 之前的版本

重要

使用 SageMaker Python SDK 2.198.0 之前的版本時,您必須使用 SageMaker Predictor 類別來接受模型 EULA。

使用 SageMaker Python SDK 以程式設計方式部署 JumpStart 基礎模型之後,您可以使用 SageMaker Predictor 類別對已部署的端點執行推論。對於需要接受終端使用者授權協議的模型,您必須在呼叫 Predictor 類別時明確宣告接受 EULA。

predictor.predict(payload, custom_attributes="accept_eula=true")

依預設,此 accept_eula 值 為 false,且必須明確地重新定義為 true,才能接受終端使用者授權協議。如果您嘗試在 accept_eula 設定為 false 時執行推論,預測值會傳回錯誤。如需利用 SageMaker Python SDK 開始使用 JumpStart 基礎模型的詳細資訊,請參閱搭配 SageMaker Python SDK 使用基礎模型

重要

custom_attributes 參數接受採用 "key1=value1;key2=value2" 格式的鍵值對。如果您多次使用相同的鍵,推論伺服器會使用與鍵相關聯的最後一個值。例如,如果您傳遞 "accept_eula=false;accept_eula=true"custom_attributes 參數,則推論伺服器會將值 trueaccept_eula 鍵產生關聯。