View a markdown version of this page

Jalankan lowongan kerja GPU - AWS Batch

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Jalankan lowongan kerja GPU

Tugas GPU membantu Anda menjalankan tugas yang menggunakan instans GPU.

Jenis GPU-based instans Amazon EC2 berikut didukung. Untuk informasi selengkapnya, lihat Instans Amazon EC2 G3, Instans Amazon EC2 G4, Instans AmazonEC2 G5, Instans Amazon EC2 G6,Instans Amazon EC2 P2,Instans Amazon EC2 P3, Instans Amazon EC2 P4d, InstansAmazon EC2 P4d, Instans Amazon EC2 P5, Instans Amazon EC2 P6, Instans Amazon EC2 Trn1, Instans Amazon EC2 Trn2, Instans Amazon EC2 Inf1, Instans Amazon EC2 Inf2, Amazon https://aws.amazon.com/ec2/instance-types/dl1/Instans EC2 Dl1, dan Instans Amazon EC2 Dl2.

Tipe instans

GPU

Memori GPU

vCPUs

Memori

Bandwith jaringan

g3s.xlarge

1

8 GiB

4

30,5 GiB

10 Gbps

g3.4xlarge

1

8 GiB

16

122 GiB

Hingga 10 Gbps

g3.8xlarge

2

16 GiB

32

244 GiB

10 Gbps

g3.16xlarge

4

32 GiB

64

488 GiB

25 Gbps

g4dn.xlarge

1

16 GiB

4

16 GiB

Hingga 25 Gbps

g4dn.2xlarge

1

16 GiB

8

32 GiB

Hingga 25 Gbps

g4dn.4xlarge

1

16 GiB

16

64 GiB

Hingga 25 Gbps

g4dn.8xlarge

1

16 GiB

32

128 GiB

50 Gbps

g4dn.12xlarge

4

64 GiB

48

192 GiB

50 Gbps

g4dn.16xlarge

1

16 GiB

64

256 GiB

50 Gbps

g5.xlarge

1

24 GiB

4

16 GiB

Hingga 10 Gbps

g5.2xlarge

1

24 GiB

8

32 GiB

Hingga 10 Gbps

g5.4xlarge

1

24 GiB

16

64 GiB

Hingga 25 Gbps

g5.8xlarge

1

24 GiB

32

128 GiB

25 Gbps

g5.16xlarge

1

24 GiB

64

256 GiB

25 Gbps

g5.12xlarge

4

96 GiB

48

192 GiB

40 Gbps

g5.24xlarge

4

96 GiB

96

384 GiB

50 Gbps

g5.48xlarge

8

192 GiB

192

768 GiB

100 Gbps

g5g.xlarge

1

16 GiB

4

8 GiB

Hingga 10 Gbps

g5g.2xlarge

1

16 GiB

8

16 GiB

Hingga 10 Gbps

g5g.4xlarge

1

16 GiB

16

32 GiB

Hingga 10 Gbps

g5g.8xlarge

1

16 GiB

32

64 GiB

12 Gbps

g5g.16xlarge

2

32 GiB

64

128 GiB

25 Gbps

g5g.metal

2

32 GiB

64

128 GiB

25 Gbps

g6.xlarge

1

24 GiB

4

16 GiB

Hingga 10 Gbps

g6.2xlarge

1

24 GiB

8

32 GiB

Hingga 10 Gbps

g6.4xlarge

1

24 GiB

16

64 GiB

Hingga 25 Gbps

g6.8xlarge

1

24 GiB

32

128 GiB

25 Gbps

g6.16xlarge

1

24 GiB

64

256 GiB

25 Gbps

g6.12xlarge

4

96 GiB

48

192 GiB

40 Gbps

g6.24xlarge

4

96 GiB

96

384 GiB

50 Gbps

g6.48xlarge

8

192 GiB

192

768 GiB

100 Gbps

g6e.xlarge

1

48 GiB

4

32 GiB

Hingga 20 Gbps

g6e.2xlarge

1

48 GiB

8

64 GiB

Hingga 20 Gbps

g6e.4xlarge

1

48 GiB

16

128 GiB

20 Gbps

g6e.8xlarge

1

48 GiB

32

256 GiB

25 Gbps

g6e.16xlarge

1

48 GiB

64

512 GiB

35 Gbps

g6e.12xlarge

4

192 GiB

48

384 GiB

100 Gbps

g6e.24xlarge

4

192 GiB

96

768 GiB

200 Gbps

g6e.48xlarge

8

384 GiB

192

1536 GiB

400 Gbps

gr6.4xbesar

1

24 GiB

16

128 GiB

Hingga 25 Gbps

gr6.8xbesar

1

24 GiB

32

256 GiB

25 Gbps

p2.xlarge

1

12 GiB

4

61 GiB

Tinggi

p2.8xlarge

8

96 GiB

32

488 GiB

10 Gbps

p2.16xlarge

16

192 GiB

64

732 GiB

20 Gbps

p3.2xlarge

1

16 GiB

8

61 GiB

Hingga 10 Gbps

p3.8xlarge

4

64 GiB

32

244 GiB

10 Gbps

p3.16xlarge

8

128 GiB

64

488 GiB

25 Gbps

p3dn.24xlarge

8

256 GiB

96

768 GiB

100 Gbps

p4d.24xlarge

8

320 GiB

96

1152 GiB

400 Gbps

p4de.24xlarge

8

640 GiB

96

1152 GiB

400 Gbps

p5.48xlarge

8

640 GiB

192

2 TiB

3200 Gbps

p5e.48xlarge

8

1128 GiB

192

2 TiB

3200 Gbps

p5en.48xlarge

8

1128 GiB

192

2 TiB

3200 Gbps

p6-b200.48xlarge

8

1440 GiB

192

2 TiB

100 Gbps

trn1.2xlarge

1

32 GiB

8

32 GiB

Hingga 12,5 Gbps

trn1.32xlarge

16

512 GiB

128

512 GiB

800 Gbps

trn1n.32xlarge

16

512 GiB

128

512 GiB

1600 Gbps

trn2.48xlarge

16

1.5 TIB

192

2 TiB

3,2 Tbps

inf1.xlarge

1

8 GiB

4

8 GiB

Hingga 25 Gbps

inf1.2xlarge

1

8 GiB

8

16 GiB

Hingga 25 Gbps

inf1.6xlarge

4

32 GiB

24

48 GiB

25 Gbps

inf1.24xlarge

16

128 GiB

96

192 GiB

100 Gbps

inf2.xlarge

1

32 GiB

4

16 GiB

Hingga 15 Gbps

inf2.8xlarge

1

32 GiB

32

128 GiB

Hingga 25 Gbps

inf2.24xlarge

6

192 GiB

96

384 GiB

50 Gbps

inf2.48xlarge

12

384 GiB

192

768 GiB

100 Gbps

dl1.24xlarge

8

256 GiB

96

768 GiB

400 Gbps

dl2q.24xlarge

8

128 GiB

96

768 GiB

100 Gbps
catatan

Untuk pekerjaan GPU AWS Batch hanya mendukung jenis instans yang memiliki GPU NVIDIA. Misalnya, G4adkeluarga tidak didukung untuk penjadwalan GPU. Anda masih dapat menggunakannya G4ad AWS Batch dengan hanya mendefinisikan persyaratan vcpu dan memori dalam definisi pekerjaan, kemudian mengakses GPU host secara langsung melalui penyesuaian dalam data pengguna template peluncuran Amazon EC2 dengan AMI yang dioptimalkan untuk komputasi Amazon ECS atau Amazon EKS, atau AMI yang disesuaikan untuk menggunakan GPU AMD.

Jenis instans yang menggunakan arsitektur ARM64 didukung untuk pekerjaan GPU pada AMI kustom yang disediakan AWS Batch atau data pengguna Amazon EC2 untuk mengakses GPU dengan kode dan konfigurasi yang disesuaikan. Misalnya, keluarga G5gcontoh.

Parameter resourceRequirements untuk ketentuan tugas menentukan jumlah GPU yang akan disematkan ke kontainer. Jumlah GPU ini tidak tersedia untuk pekerjaan lain yang berjalan pada instance itu selama durasi pekerjaan itu. Semua tipe instans dalam lingkungan komputasi yang menjalankan pekerjaan GPU harus berasal dari keluargap3,,p4,p5,p6,g3,g3s, g4g5, atau g6 instance. Jika hal ini tidak dilakukan, tugas GPU mungkin akan terjebak di status RUNNABLE.

Tugas yang tidak menggunakan GPU dapat dijalankan di instans GPU. Namun, mungkin diperlukan biaya lebih untuk menjalankannya di instans GPU daripada di instans non-GPU yang serupa. Tergantung pada vCPU, memori, dan waktu tertentu yang diperlukan, tugas non-GPU ini mungkin memblokir berjalannya tugas GPU.

Topik