本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。 # 推論容器映像 SageMaker Neo 現在可提供 `ml_*` 目標的推論影像 URI 資訊。如需詳細資訊，請參閱 [DescribeCompilationJob](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_DescribeCompilationJob.html#sagemaker-DescribeCompilationJob-response-InferenceImage)。 根據您的使用案例，使用適當的值取代下方所提供之推論影像 URI 範本中重點標示的部分。 ## Amazon SageMaker AI XGBoost ``` {{aws_account_id}}.dkr.ecr.{{aws_region}}.amazonaws.com/xgboost-neo:latest ``` 根據您使用的 {{aws\_region}}，取代本頁結尾資料表的 {{aws\_account\_id}}。 ## Keras ``` {{aws_account_id}}.dkr.ecr.{{aws_region}}.amazonaws.com/sagemaker-neo-keras:fx_version-instance_type-py3 ``` 根據您使用的 {{aws\_region}}，取代本頁結尾資料表的 {{aws\_account\_id}}。 使用 `2.2.4` 取代 {{fx\_version}}。 使用 `cpu` 或 `gpu` 取代 {{instance\_type}}。 ## MXNet ------ #### [ CPU or GPU instance types ] ``` {{aws_account_id}}.dkr.ecr.{{aws_region}}.amazonaws.com/sagemaker-inference-mxnet:{{fx_version}}-{{instance_type}}-py3 ``` 根據您使用的 {{aws\_region}}，取代本頁結尾資料表的 {{aws\_account\_id}}。 使用 `1.8.0` 取代 {{fx\_version}}。 使用 `cpu` 或 `gpu` 取代 {{instance\_type}}。 ------ #### [ Inferentia1 ] ``` {{aws_account_id}}.dkr.ecr.{{aws_region}}.amazonaws.com/sagemaker-neo-mxnet:{{fx_version}}-{{instance_type}}-py3 ``` 使用 `us-east-1` 或 `us-west-2` 取代 {{aws\_region}}。 根據您使用的 {{aws\_region}}，取代本頁結尾資料表的 {{aws\_account\_id}}。 使用 `1.5.1` 取代 {{fx\_version}}。 使用 `inf` 取代 {{`instance_type`}}。 ------ ## ONNX ``` {{aws_account_id}}.dkr.ecr.{{aws_region}}.amazonaws.com/sagemaker-neo-onnx:fx_version-instance_type-py3 ``` 根據您使用的 {{aws\_region}}，取代本頁結尾資料表的 {{aws\_account\_id}}。 使用 `1.5.0` 取代 {{fx\_version}}。 使用 `cpu` 或 `gpu` 取代 {{instance\_type}}。 ## PyTorch ------ #### [ CPU or GPU instance types ] ``` {{aws_account_id}}.dkr.ecr.{{aws_region}}.amazonaws.com/sagemaker-inference-pytorch:{{fx_version}}-{{instance_type}}-py3 ``` 根據您使用的 {{aws\_region}}，取代本頁結尾資料表的 {{aws\_account\_id}}。 使用 `1.4`、`1.5`、`1.6`、`1.7`、`1.8`、`1.12`、`1.13` 或 `2.0` 取代 {{fx\_version}}。 使用 `cpu` 或 `gpu` 取代 {{instance\_type}}。 ------ #### [ Inferentia1 ] ``` {{aws_account_id}}.dkr.ecr.{{aws_region}}.amazonaws.com/sagemaker-neo-pytorch:{{fx_version}}-{{instance_type}}-py3 ``` 使用 `us-east-1` 或 `us-west-2` 取代 {{aws\_region}}。 根據您使用的 {{aws\_region}}，取代本頁結尾資料表的 {{aws\_account\_id}}。 使用 `1.5.1` 取代 {{fx\_version}}。 使用 `inf` 取代 {{`instance_type`}}。 ------ #### [ Inferentia2 and Trainium1 ] ``` 763104351884.dkr.ecr.{{aws_region}}.amazonaws.com/pytorch-inference-neuronx:1.13.1-neuronx-py38-sdk2.10.0-ubuntu20.04 ``` 使用適用於 Inferentia2 的 `us-east-2` 和適用於 Trainium1 的 `us-east-1` 取代 {{aws\_region}}。 ------ ## TensorFlow ------ #### [ CPU or GPU instance types ] ``` {{aws_account_id}}.dkr.ecr.{{aws_region}}.amazonaws.com/sagemaker-inference-tensorflow:{{fx_version}}-{{instance_type}}-py3 ``` 根據您使用的 {{aws\_region}}，取代本頁結尾資料表的 {{aws\_account\_id}}。 使用 `1.15.3` 或 `2.9` 取代 {{fx\_version}}。 使用 `cpu` 或 `gpu` 取代 {{instance\_type}}。 ------ #### [ Inferentia1 ] ``` {{aws_account_id}}.dkr.ecr.{{aws_region}}.amazonaws.com/sagemaker-neo-tensorflow:{{fx_version}}-{{instance_type}}-py3 ``` 根據您使用的 {{aws\_region}}，取代本頁結尾資料表的 {{aws\_account\_id}}。請注意，針對執行個體類型 `inf`，只支援 `us-east-1` 和 `us-west-2`。 使用 `1.15.0` 取代 {{fx\_version}} 使用 `inf` 取代 {{instance\_type}}。 ------ #### [ Inferentia2 and Trainium1 ] ``` 763104351884.dkr.ecr.{{aws_region}}.amazonaws.com/tensorflow-inference-neuronx:2.10.1-neuronx-py38-sdk2.10.0-ubuntu20.04 ``` 使用適用於 Inferentia2 的 `us-east-2` 和適用於 Trainium1 的 `us-east-1` 取代 {{aws\_region}}。 ------ 以下資料表對應 {{aws\_account\_id }} 和 {{aws\_region}}。請使用此表，尋找您的應用程式所需的正確推論影像 URI。 | aws\_account\_id | aws\_region | | --- | --- | | 785573368785 | us-east-1 | | 007439368137 | us-east-2 | | 710691900526 | us-west-1 | | 301217895009 | us-west-2 | | 802834080501 | eu-west-1 | | 205493899709 | eu-west-2 | | 254080097072 | eu-west-3 | | 601324751636 | eu-north-1 | | 966458181534 | eu-south-1 | | 746233611703 | eu-central-1 | | 110948597952 | ap-east-1 | | 763008648453 | ap-south-1 | | 941853720454 | ap-northeast-1 | | 151534178276 | ap-northeast-2 | | 925152966179 | ap-northeast-3 | | 324986816169 | ap-southeast-1 | | 355873309152 | ap-southeast-2 | | 474822919863 | cn-northwest-1 | | 472730292857 | cn-north-1 | | 756306329178 | sa-east-1 | | 464438896020 | ca-central-1 | | 836785723513 | me-south-1 | | 774647643957 | af-south-1 | | 275950707576 | il-central-1 |