

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

# 中的機器學習產品的服務限制和配額 AWS Marketplace
<a name="ml-service-restrictions-and-limits"></a>

本節說明 中機器學習 (ML) 產品的限制和配額 AWS Marketplace。

**Topics**
+ [網路隔離](#ml-network-isolation)
+ [映像大小](#ml-image-size)
+ [儲存大小](#ml-storage-size)
+ [執行個體大小](#ml-instance-size)
+ [推論的承載大小](#ml-payload-size-for-inference)
+ [推論的處理時間](#ml-processing-time-for-inference)
+ [Service Quotas](#ml-service-quotas)
+ [無伺服器推論](#severless-inference)
+ [受管 Spot 訓練](#ml-managed-spot-training)
+ [Docker 映像和 AWS 帳戶](#ml-docker-images-and-aws-accounts)
+ [從內建演算法或 發佈模型套件 AWS Marketplace](#ml-publishing-model-packages-from-built-in-algorithms-or-aws-marketplace)
+ [支援 AWS 區域 發佈](#ml-supported-aws-regions-for-publishing)

## 網路隔離
<a name="ml-network-isolation"></a>

基於 安全 考量，當  買方 訂閱  您的 容器化 產品 時，Docker 容器 會在沒有網路存取權的隔離環境中 執行。當您建立容器時，請不要依賴透過網際網路進行傳出呼叫，因為它們會失敗。呼叫 AWS 服務 也會失敗。

## 映像大小
<a name="ml-image-size"></a>

您的 Docker 映像大小由 Amazon Elastic Container Registry (Amazon ECR) [服務配額](https://docs.aws.amazon.com/AmazonECR/latest/userguide/service_limits.html)管理。Docker 映像大小會影響訓練任務、批次轉換任務和端點建立期間的啟動時間。為了獲得更好的效能，請維持最佳的 Docker 影像大小。

## 儲存大小
<a name="ml-storage-size"></a>

當您建立端點時，Amazon SageMaker AI 會將 Amazon Elastic Block Store (Amazon EBS) 儲存磁碟區連接至託管端點的每個 ML 運算執行個體。（端點也稱為*即時推論*或 *Amazon SageMaker AI 託管服務*。) 儲存磁碟區的大小取決於執行個體類型。如需詳細資訊，請參閱《*Amazon SageMaker AI 開發人員指南*》中的 [主機執行個體儲存磁碟區](https://docs.aws.amazon.com/sagemaker/latest/dg/host-instance-storage.html)。 

如需批次轉換，請參閱《*Amazon SageMaker AI 開發人員指南*[》中的批次轉換中的儲存](https://docs.aws.amazon.com/sagemaker/latest/dg/batch-transform-storage.html)。

## 執行個體大小
<a name="ml-instance-size"></a>

SageMaker AI 提供多種執行個體類型，這些執行個體類型已針對不同的 ML 使用案例進行最佳化。執行個體類型是由 CPU、GPU、記憶體和聯網容量的不同組合組成。執行個體類型可讓您靈活地選擇適當的資源組合，以建置、訓練和部署 ML 模型。如需詳細資訊，請參閱 [Amazon SageMaker AI ML 執行個體類型](https://aws.amazon.com/sagemaker/pricing/instance-types/)。

## 推論的承載大小
<a name="ml-payload-size-for-inference"></a>

 對於端點，將每次呼叫的輸入資料大小上限限制為 25 MB。無法調整此值。

對於批次轉換，每次調用輸入資料的大小上限為 100 MB。此 值無法調整。

## 推論的處理時間
<a name="ml-processing-time-for-inference"></a>

對於端點，一般回應的每次調用處理時間上限為 60 秒，串流回應則為 8 分鐘。無法調整此值。

對於批次轉換，每次調用的處理時間上限為 60 分鐘。此 值無法調整。

## Service Quotas
<a name="ml-service-quotas"></a>

如需訓練和推論相關配額的詳細資訊，請參閱 [Amazon SageMaker AI Service Quotas](https://docs.aws.amazon.com/general/latest/gr/sagemaker.html#limits_sagemaker)。

## 無伺服器推論
<a name="severless-inference"></a>

在 中發佈的模型套件和演算法 AWS Marketplace 無法部署到為 [Amazon SageMaker AI Serverless Inference ](https://docs.aws.amazon.com/sagemaker/latest/dg/serverless-endpoints.html)設定的端點。針對無伺服器推論設定的端點需要模型具有網路連線能力。所有 AWS Marketplace 模型都以網路隔離方式運作。如需詳細資訊，請參閱[無網路存取](https://docs.aws.amazon.com/marketplace/latest/userguide/ml-security-and-intellectual-property.html#ml-no-network-access)。

## 受管 Spot 訓練
<a name="ml-managed-spot-training"></a>

對於來自 的所有演算法 AWS Marketplace，即使實作[受管 Spot 訓練](https://docs.aws.amazon.com/sagemaker/latest/dg/model-managed-spot-training.html) 的檢查點， 的值`MaxWaitTimeInSeconds`也會設為 3，600 秒 (60 分鐘）。無法調整此值。

## Docker 映像和 AWS 帳戶
<a name="ml-docker-images-and-aws-accounts"></a>

若要發佈，映像必須存放在賣方 擁有 AWS 帳戶 的 Amazon ECR 儲存庫中。無法發佈存放在另一個儲存庫中的映像 AWS 帳戶。

## 從內建演算法或 發佈模型套件 AWS Marketplace
<a name="ml-publishing-model-packages-from-built-in-algorithms-or-aws-marketplace"></a>

使用 [Amazon SageMaker AI 內建演算法](https://docs.aws.amazon.com/sagemaker/latest/dg/algos.html)或 AWS Marketplace 訂閱演算法從訓練任務建立的模型套件無法發佈。

您仍然可以使用訓練任務中的模型成品，但發佈模型套件需要您自己的推論影像。

## 支援 AWS 區域 發佈
<a name="ml-supported-aws-regions-for-publishing"></a>

AWS Marketplace 支援從 AWS 區域 下列位置發佈模型套件和演算法資源：
+ [ Amazon SageMaker AI 支援的](https://aws.amazon.com/about-aws/global-infrastructure/regional-product-services/) 區域 
+ 預設選擇加入的[可用區域](https://aws.amazon.com/about-aws/global-infrastructure/regional-product-services/) （例如 [ describe-regions](https://docs.aws.amazon.com/general/latest/gr/rande-manage.html#ec2-describe-regions) 會傳回 `"OptInStatus": "opt-in-not-required"`) 

發佈模型套件或演算法產品所需的所有資產都必須存放在您選擇發佈的相同區域中。這包含下列項目：
+ 在 Amazon SageMaker AI 中建立的模型套件和演算法資源 
+ 上傳至 Amazon ECR 儲存庫的推論和訓練映像 
+ 存放在 Amazon Simple Storage Service 中並在模型部署期間動態載入模型套件資源的模型成品 （如果有的話） 
+ Amazon S3 中存放的推論和訓練驗證測試資料 

您可以在 SageMaker AI 支援的任何區域中開發和訓練您的產品。但是，您必須先將所有資產複製到 AWS Marketplace 支援從中發佈的區域中並重新建立資源，才能發佈。