

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

# 模型分割的先決條件
<a name="prequisites-model-distillation"></a>

在開始之前，請確定您了解模型蒸餾的存取和安全控制。您還必須為您的 分割任務選擇教師和學生模型。

## 許可
<a name="model-distillation-access-security"></a>

在開始之前，請確定您了解模型蒸餾的存取和安全控制。您必須擁有可存取 Amazon S3 儲存貯體的 IAM 服務角色，以便存放模型蒸餾訓練和驗證資料。Amazon Bedrock 也提供加密和進一步保護您蒸餾任務和成品的選項。如需詳細資訊，請參閱[模型自訂存取和安全性](custom-model-job-access-security.md)。

若要將跨區域推論描述檔用於 Distillation 任務中的教師模型，您的服務角色除了在推論描述檔中每個區域中的模型之外 AWS 區域，還必須具有在 中叫用推論描述檔的許可。如需政策範例，請參閱[(選用) 使用跨區域推論設定檔建立蒸餾任務的許可](custom-model-job-access-security.md#custom-models-cross-region-inference-profile-permissions)。如需跨區域推論的詳細資訊，請參閱 [透過跨區域推論增加輸送量](cross-region-inference.md)。

## 選擇用於蒸餾的教師和學生模型
<a name="prequisites-teacher-student-models"></a>


****  

| 模型類型 | 選擇條件 | 重要考量事項 | 要求 | 
| --- | --- | --- | --- | 
| 教師模型 | 選擇比學生模型大得多且功能更多的教師模型，且符合您要為使用案例達到的準確度。 | 若要讓蒸餾更有效率，請選擇一個已針對與您使用案例類似的任務進行訓練的模型。對於某些教師模型，您可以選擇跨區域推論設定檔。 | 必須具有在每個區域中叫用推論描述檔和模型的許可。如需政策範例，請參閱跨區域推論文件。 | 
| 學生模型 | 選擇的學生模型大小應比教師模型明顯小許多。 | 學生模型必須是其中一個與支援的模型表中的教師模型配對的學生模型。 | 必須與選取的教師模型相容，如下表所示。 | 

下一節列出 Amazon Bedrock 模型蒸餾功能支援的模型和區域。選擇教師和學生模型後，您可以準備和最佳化訓練資料集以進行蒸餾。如需詳細資訊，請參閱[準備訓練資料集以進行蒸餾](distillation-prepare-datasets.md)。

### Amazon Bedrock 模型蒸餾功能支援的模型和區域
<a name="model-distillation-supported"></a>

下表顯示哪些模型和 AWS 區域 Amazon Bedrock Model Distillation 支援教師和學生模型。如果您使用跨區域推論設定檔，則模型蒸餾僅支援系統推論設定檔。如需詳細資訊，請參閱[透過跨區域推論增加輸送量](cross-region-inference.md)。


****  
[\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/prequisites-model-distillation.html)

**注意**  
對於 Claude  和 Llama 模型，蒸餾任務是在美國西部 (奧勒岡) 執行。您可以在美國西部 (奧勒岡) 購買[佈建輸送量](https://docs.aws.amazon.com//bedrock/latest/userguide/prov-throughput.html)，或將[已蒸餾模型複製](https://docs.aws.amazon.com//bedrock/latest/userguide/copy-model.html)到另一個區域，然後購買[佈建輸送量](https://docs.aws.amazon.com//bedrock/latest/userguide/prov-throughput.html)。
對於 Nova 模型，您可以在美國東部 (維吉尼亞北部) 執行蒸餾任務。如需推論，您必須購買美國東部 (維吉尼亞北部) 的[佈建輸送量](https://docs.aws.amazon.com//bedrock/latest/userguide/prov-throughput.html)。您無法將 Nova 模型複製到其他區域。