本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。 # 推理容器映像 SageMaker Neo 现在为`ml_*`目标提供推理图像 URI 信息。有关更多信息，请参阅 [DescribeCompilationJob](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_DescribeCompilationJob.html#sagemaker-DescribeCompilationJob-response-InferenceImage)。 根据您的应用场景，将下面提供的推理映像 URI 模板中突出显示的部分替换为相应的值。 ## 亚马逊 A SageMaker I xgBoost ``` {{aws_account_id}}.dkr.ecr.{{aws_region}}.amazonaws.com/xgboost-neo:latest ``` 根据{{aws\_region}}您使用的替换{{aws\_account\_id}}本页末尾的表格。 ## Keras ``` {{aws_account_id}}.dkr.ecr.{{aws_region}}.amazonaws.com/sagemaker-neo-keras:fx_version-instance_type-py3 ``` 根据{{aws\_region}}您使用的替换{{aws\_account\_id}}本页末尾的表格。 将 {{fx\_version}}替换为 `2.2.4`。 将 {{instance\_type}} 替换为 `cpu` 或 `gpu`。 ## MXNet ------ #### [ CPU or GPU instance types ] ``` {{aws_account_id}}.dkr.ecr.{{aws_region}}.amazonaws.com/sagemaker-inference-mxnet:{{fx_version}}-{{instance_type}}-py3 ``` 根据{{aws\_region}}您使用的替换{{aws\_account\_id}}本页末尾的表格。 将 {{fx\_version}}替换为 `1.8.0`。 将 {{instance\_type}} 替换为 `cpu` 或 `gpu`。 ------ #### [ Inferentia1 ] ``` {{aws_account_id}}.dkr.ecr.{{aws_region}}.amazonaws.com/sagemaker-neo-mxnet:{{fx_version}}-{{instance_type}}-py3 ``` 将 {{aws\_region}} 替换为 `us-east-1` 或 `us-west-2`。 根据{{aws\_region}}您使用的替换{{aws\_account\_id}}本页末尾的表格。 将 {{fx\_version}}替换为 `1.5.1`。 将 {{`instance_type`}}替换为 `inf`。 ------ ## ONNX ``` {{aws_account_id}}.dkr.ecr.{{aws_region}}.amazonaws.com/sagemaker-neo-onnx:fx_version-instance_type-py3 ``` 根据{{aws\_region}}您使用的替换{{aws\_account\_id}}本页末尾的表格。 将 {{fx\_version}}替换为 `1.5.0`。 将 {{instance\_type}} 替换为 `cpu` 或 `gpu`。 ## PyTorch ------ #### [ CPU or GPU instance types ] ``` {{aws_account_id}}.dkr.ecr.{{aws_region}}.amazonaws.com/sagemaker-inference-pytorch:{{fx_version}}-{{instance_type}}-py3 ``` 根据{{aws\_region}}您使用的替换{{aws\_account\_id}}本页末尾的表格。 {{fx\_version}}替换为`1.4``1.5`、`1.6`、`1.7`、、`1.8`、`1.12`、`1.13`、或`2.0`。 将 {{instance\_type}} 替换为 `cpu` 或 `gpu`。 ------ #### [ Inferentia1 ] ``` {{aws_account_id}}.dkr.ecr.{{aws_region}}.amazonaws.com/sagemaker-neo-pytorch:{{fx_version}}-{{instance_type}}-py3 ``` 将 {{aws\_region}} 替换为 `us-east-1` 或 `us-west-2`。 根据{{aws\_region}}您使用的替换{{aws\_account\_id}}本页末尾的表格。 将 {{fx\_version}}替换为 `1.5.1`。 将 {{`instance_type`}}替换为 `inf`。 ------ #### [ Inferentia2 and Trainium1 ] ``` 763104351884.dkr.ecr.{{aws_region}}.amazonaws.com/pytorch-inference-neuronx:1.13.1-neuronx-py38-sdk2.10.0-ubuntu20.04 ``` 将 Inferentia2 {{aws\_region}} 替`us-east-2`换为，将 Trainium1 替换为。`us-east-1` ------ ## TensorFlow ------ #### [ CPU or GPU instance types ] ``` {{aws_account_id}}.dkr.ecr.{{aws_region}}.amazonaws.com/sagemaker-inference-tensorflow:{{fx_version}}-{{instance_type}}-py3 ``` 根据{{aws\_region}}您使用的替换{{aws\_account\_id}}本页末尾的表格。 将 {{fx\_version}} 替换为 `1.15.3` 或 `2.9`。 将 {{instance\_type}} 替换为 `cpu` 或 `gpu`。 ------ #### [ Inferentia1 ] ``` {{aws_account_id}}.dkr.ecr.{{aws_region}}.amazonaws.com/sagemaker-neo-tensorflow:{{fx_version}}-{{instance_type}}-py3 ``` 根据{{aws\_region}}您使用的替换{{aws\_account\_id}}本页末尾的表格。请注意，对于实例类型 `inf`，仅支持 `us-east-1` 和 `us-west-2`。 将 {{fx\_version}} 替换为 `1.15.0` 将 {{instance\_type}}替换为 `inf`。 ------ #### [ Inferentia2 and Trainium1 ] ``` 763104351884.dkr.ecr.{{aws_region}}.amazonaws.com/tensorflow-inference-neuronx:2.10.1-neuronx-py38-sdk2.10.0-ubuntu20.04 ``` 将 Inferentia2 {{aws\_region}} 替`us-east-2`换为，将 Trainium1 替换为。`us-east-1` ------ 下表{{aws\_account\_id}}与{{aws\_region}}. 使用此表查找应用程序所需的正确推理映像 URI。 | aws\_account\_id | aws\_region | | --- | --- | | 785573368785 | us-east-1 | | 007439368137 | us-east-2 | | 710691900526 | us-west-1 | | 301217895009 | us-west-2 | | 802834080501 | eu-west-1 | | 205493899709 | eu-west-2 | | 254080097072 | eu-west-3 | | 601324751636 | eu-north-1 | | 966458181534 | eu-south-1 | | 746233611703 | eu-central-1 | | 11094859797952 | ap-east-1 | | 763008648453 | ap-south-1 | | 941853720454 | ap-northeast-1 | | 151534178276 | ap-northeast-2 | | 925152966179 | ap-northeast-3 | | 324986816169 | ap-southeast-1 | | 355873309152 | ap-southeast-2 | | 474822919863 | cn-northwest-1 | | 472730292857 | cn-north-1 | | 756306329178 | sa-east-1 | | 464438896020 | ca-central-1 | | 836785723513 | me-south-1 | | 774647643957 | af-south-1 | | 275950707576 | il-central-1 |