

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

# AWS Deep Learning ARM64 AMI GPU PyTorch 2.4 (Ubuntu 22.04)
<a name="aws-deep-learning-arm64-ami-gpu-pytorch-2.4-ubuntu-22-04"></a>

如需入門說明，請參閱 [DLAMI 入門](getting-started.md)。

#### AMI 名稱格式
<a name="name-arm64-ami-gpu-pytorch-2.4-ubuntu-22-04"></a>
+ 深度學習 ARM64 AMI OSS Nvidia 驅動程式 GPU PyTorch 2.4.${PATCH\_VERSION} (Ubuntu 22.04) ${YYYY-MM-DD}

#### 支援的 EC2 執行個體
<a name="instances-arm64-ami-gpu-pytorch-2.4-ubuntu-22-04"></a>
+ G5g

#### AMI 包含下列項目：
<a name="contents-arm64-ami-gpu-pytorch-2.4-ubuntu-22-04"></a>
+ **支援服務 AWS **：Amazon EC2
+ **作業系統**：Ubuntu 22.04
+ **運算架構**：ARM64
+ **Python**：/opt/conda/envs/pytorch/bin/python
+ **Python 版本：**3.11
+ **NVIDIA 驅動程式**：
  + OSS Nvidia 驅動程式：550.144.03
+ **NVIDIA CUDA12.1 堆疊**：
  + CUDA、NCCL 和 cuDDN 安裝路徑：/usr/local/cuda-12.4/
  + **預設 CUDA：**12.4
    + PATH /usr/local/cuda 指向 /usr/local/cuda-12.4/
    + 已更新下列 env vars：
      + LD\_LIBRARY\_PATH 具有 /usr/local/cuda/lib：/usr/local/cuda/lib64：/usr/local/cuda：/usr/local/cuda/targets/sbsa-linux/lib：/usr/local/cuda/nvvm/lib64：/usr/local/cuda/extras/CUPTI/lib64
      + 要讓 /usr/local/cuda/bin/：/usr/local/cuda/include/ 的 PATH
  + 編譯系統 NCCL 版本，位於 /usr/local/cuda/： 2.21.5
  + 來自 PyTorch conda 環境的 PyTorch 編譯 NCCL 版本：2.20.5
+ **AWS CLI v2** 作為 aws2 和 **AWS CLI v1** 作為 aws
+ **EBS 磁碟區類型**：gp3
+ **使用 SSM 參數查詢 AMI-ID （範例區域為 us-east-1)：**

  ```
  aws ssm get-parameter --region {{us-east-1}} \
      --name /aws/service/deeplearning/ami/arm64/oss-nvidia-driver-gpu-pytorch-2.4-ubuntu-22.04/latest/ami-id  \
      --query "Parameter.Value" \
      --output text
  ```
+ **使用 AWSCLI 查詢 AMI-ID （範例區域為 us-east-1)：**

  ```
  aws ec2 describe-images --region {{us-east-1}} \
      --owners amazon \
      --filters 'Name=name,Values=Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.? (Ubuntu 22.04) ????????' 'Name=state,Values=available' \
      --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \
      --output text
  ```

#### 發行日期：2025-02-17
<a name="2025-02-17-arm64-ami-gpu-pytorch-2.4-ubuntu-22-04"></a>

**AMI 名稱**：深度學習 ARM64 AMI OSS Nvidia 驅動程式 GPU PyTorch 2.4.0 (Ubuntu 22.04) 20250215

##### Updated
<a name="w2aac25c13b7c13c11b5"></a>
+ 將 NVIDIA Container Toolkit 從 1.17.3 版更新至 1.17.4 版
  + 如需詳細資訊，請參閱此處的版本備註頁面：https：//[https://github.com/NVIDIA/nvidia-container-toolkit/releases/tag/v1.17.4](https://github.com/NVIDIA/nvidia-container-toolkit/releases/tag/v1.17.4)
  + 在 Container Toolkit 1.17.4 版中，CUDA Compat 程式庫的掛載現已停用。為了確保與容器工作流程上的多個 CUDA 版本相容，請確保您更新 LD\_LIBRARY\_PATH 以包含 CUDA 相容性程式庫，如[如果您使用 CUDA 相容性層](https://docs.aws.amazon.com/sagemaker/latest/dg/inference-gpu-drivers.html#collapsible-cuda-compat)教學中所示。

##### 已移除
<a name="w2aac25c13b7c13c11b7"></a>
+ 已移除 [NVIDIA CUDA 工具組](https://docs.nvidia.com/cuda/)提供的使用者空間程式庫 cuobj 和 nvdisasm，以解決 [2025 年 2 月 18 日 NVIDIA CUDA Toolkit 安全公告](https://nvidia.custhelp.com/app/answers/detail/a_id/5594)中存在的 CVEs 

#### 發行日期：2025-01-21
<a name="2025-01-21-arm64-ami-gpu-pytorch-2.4-ubuntu-22-04"></a>

**AMI 名稱**：深度學習 ARM64 AMI OSS Nvidia 驅動程式 GPU PyTorch 2.4.0 (Ubuntu 22.04) 20250117

##### Updated
<a name="w2aac25c13b7c13c13b5"></a>
+ 已將 Nvidia 驅動程式從 550.127.05 版升級至 550.144.03，以解決 [2025 年 1 月 NVIDIA GPU 顯示驅動程式安全公告](https://nvidia.custhelp.com/app/answers/detail/a_id/5614)中存在的 CVEs。

#### 發行日期：2024-09-30
<a name="2024-09-30-arm64-ami-gpu-pytorch-2.4-ubuntu-22-04"></a>

**AMI 名稱**：深度學習 ARM64 AMI OSS Nvidia 驅動程式 GPU PyTorch 2.4.0 (Ubuntu 22.04) 20240927

##### Updated
<a name="w2aac25c13b7c13c15b5"></a>
+ 已將 Nvidia Container Toolkit 從 1.16.1 版升級至 1.16.2 版，以解決安全性漏洞 [CVE-2024-0133](https://nvd.nist.gov/vuln/detail/CVE-2024-0133)。

#### 版本日期：2024-09-26
<a name="2024-09-26-arm64-ami-gpu-pytorch-2.4-ubuntu-22-04"></a>

**AMI 名稱**：深度學習 ARM64 AMI OSS Nvidia 驅動程式 GPU PyTorch 2.4.0 (Ubuntu 22.04) 20240926

##### 已新增
<a name="w2aac25c13b7c13c17b5"></a>
+ Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.0 (Ubuntu 22.04) 系列的初始版本。包含搭配 NVIDIA 驅動程式 R550、CUDA=12.4、cuDNN=8.9.7、PyTorch NCCL=2.20.5 的 conda 環境pytorch。