View a markdown version of this page

Executar trabalhos de GPU - AWS Batch

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Executar trabalhos de GPU

Os trabalhos de GPU permitem executar trabalhos que usam uma GPU da instância.

Os seguintes tipos de GPU-based instância do Amazon EC2 são compatíveis. Para obter mais informações, consulte Instâncias Amazon EC2 G3, Instâncias Amazon EC2 G4, Instâncias Amazon EC2 G5,Instâncias Amazon EC2 G6, Instâncias Amazon EC2 P2, Instâncias Amazon EC2 P3, Instâncias Amazon EC2 P4d, Instâncias Amazon EC2 P5, Instâncias Amazon EC2 P6, Instâncias Amazon EC2 Trn1, Instâncias Amazon EC2 Trn2, Instâncias Amazon EC2 Inf1, Instâncias Amazon EC2 Inf2, Instâncias Amazon EC2 Dl1 e Instâncias Amazon EC2 Dl2.

Tipo de instância

GPUs

Memória da GPU

vCPUs

Memória

Largura de banda de rede

g3s.xlarge

1

8 GiB

4

30,5 GiB

10 Gbps

g3.4xlarge

1

8 GiB

16

122 GiB

Até 10 Gbps

g3.8xlarge

2

16 GiB

32

244 GiB

10 Gbps

g3.16xlarge

4

32 GiB

64

488 GiB

25 Gbps

g4dn.xlarge

1

16 GiB

4

16 GiB

Até 25 Gbps

g4dn.2xlarge

1

16 GiB

8

32 GiB

Até 25 Gbps

g4dn.4xlarge

1

16 GiB

16

64 GiB

Até 25 Gbps

g4dn.8xlarge

1

16 GiB

32

128 GiB

50 Gbps

g4dn.12xlarge

4

64 GiB

48

192 GiB

50 Gbps

g4dn.16xlarge

1

16 GiB

64

256 GiB

50 Gbps

g5.xlarge

1

24 GiB

4

16 GiB

Até 10 Gbps

g5.2xlarge

1

24 GiB

8

32 GiB

Até 10 Gbps

g5.4xlarge

1

24 GiB

16

64 GiB

Até 25 Gbps

g5.8xlarge

1

24 GiB

32

128 GiB

25 Gbps

g5.16xlarge

1

24 GiB

64

256 GiB

25 Gbps

g5.12xlarge

4

96 GiB

48

192 GiB

40 Gbps

g5.24xlarge

4

96 GiB

96

384 GiB

50 Gbps

g5.48xlarge

8

192 GiB

192

768 GiB

100 Gbps

g5g.xlarge

1

16 GiB

4

8 GiB

Até 10 Gbps

g5g.2xlarge

1

16 GiB

8

16 GiB

Até 10 Gbps

g5g.4xlarge

1

16 GiB

16

32 GiB

Até 10 Gbps

g5g.8xlarge

1

16 GiB

32

64 GiB

12 Gbps

g5g.16xlarge

2

32 GiB

64

128 GiB

25 Gbps

g5g.metal

2

32 GiB

64

128 GiB

25 Gbps

g6.xlarge

1

24 GiB

4

16 GiB

Até 10 Gbps

g6.2xlarge

1

24 GiB

8

32 GiB

Até 10 Gbps

g6.4xlarge

1

24 GiB

16

64 GiB

Até 25 Gbps

g6.8xlarge

1

24 GiB

32

128 GiB

25 Gbps

g6.16xlarge

1

24 GiB

64

256 GiB

25 Gbps

g6.12xlarge

4

96 GiB

48

192 GiB

40 Gbps

g6.24xlarge

4

96 GiB

96

384 GiB

50 Gbps

g6.48xlarge

8

192 GiB

192

768 GiB

100 Gbps

g6e.xlarge

1

48 GiB

4

32 GiB

Até 20 Gbps

g6e.2xlarge

1

48 GiB

8

64 GiB

Até 20 Gbps

g6e.4xlarge

1

48 GiB

16

128 GiB

20 Gbps

g6e.8xlarge

1

48 GiB

32

256 GiB

25 Gbps

g6e.16xlarge

1

48 GiB

64

512 GiB

35 Gbps

g6e.12xlarge

4

192 GiB

48

384 GiB

100 Gbps

g6e.24xlarge

4

192 GiB

96

768 GiB

200 Gbps

g6e.48xlarge

8

384 GiB

192

1536 GiB

400 Gbps

gr6.4xlarge

1

24 GiB

16

128 GiB

Até 25 Gbps

gr6.8xlarge

1

24 GiB

32

256 GiB

25 Gbps

p2.xlarge

1

12 GiB

4

61 GiB

Alto

p2.8xlarge

8

96 GiB

32

488 GiB

10 Gbps

p2.16xlarge

16

192 GiB

64

732 GiB

20 Gbps

p3.2xlarge

1

16 GiB

8

61 GiB

Até 10 Gbps

p3.8xlarge

4

64 GiB

32

244 GiB

10 Gbps

p3.16xlarge

8

128 GiB

64

488 GiB

25 Gbps

p3dn.24xlarge

8

256 GiB

96

768 GiB

100 Gbps

p4d.24xlarge

8

320 GiB

96

1152 GiB

400 Gbps

p4de.24xlarge

8

640 GiB

96

1152 GiB

400 Gbps

p5.48xlarge

8

640 GiB

192

2 TiB

3200 Gbps

p5e.48xlarge

8

1128 GiB

192

2 TiB

3200 Gbps

p5en.48xlarge

8

1128 GiB

192

2 TiB

3200 Gbps

p6-b200.48xlarge

8

1440 GiB

192

2 TiB

100 Gbps

trn1.2xlarge

1

32 GiB

8

32 GiB

Até 12,5 Gbps

trn1.32xlarge

16

512 GiB

128

512 GiB

800 Gbps

trn1n.32xlarge

16

512 GiB

128

512 GiB

1600 Gbps

trn2.48xlarge

16

1,5 TiB

192

2 TiB

3,2 Tbps

inf1.xlarge

1

8 GiB

4

8 GiB

Até 25 Gbps

inf1.2xlarge

1

8 GiB

8

16 GiB

Até 25 Gbps

inf1.6xlarge

4

32 GiB

24

48 GiB

25 Gbps

inf1.24xlarge

16

128 GiB

96

192 GiB

100 Gbps

inf2.xlarge

1

32 GiB

4

16 GiB

Até 15 Gbps

inf2.8xlarge

1

32 GiB

32

128 GiB

Até 25 Gbps

inf2.24xlarge

6

192 GiB

96

384 GiB

50 Gbps

inf2.48xlarge

12

384 GiB

192

768 GiB

100 Gbps

dl1.24xlarge

8

256 GiB

96

768 GiB

400 Gbps

dl2q.24xlarge

8

128 GiB

96

768 GiB

100 Gbps
nota

Para trabalhos de GPU, AWS Batch só oferece suporte a tipos de instância que tenham GPUs NVIDIA. Por exemplo, a família G4ad não é compatível com o agendamento de GPU. Você ainda pode usar G4adon AWS Batch definindo somente os requisitos de vcpu e memória na definição do trabalho e, em seguida, acessando as GPUs hospedeiras diretamente por meio da personalização em um modelo de lançamento do Amazon EC2, dados do usuário com uma AMI otimizada para computação do Amazon ECS ou Amazon EKS, ou uma AMI personalizada para usar GPUs AMD.

Os tipos de instância que usam uma arquitetura ARM64 são compatíveis com trabalhos de GPU em AMIs personalizadas fornecidas ou com dados de usuários do Amazon AWS Batch EC2 para acessar as GPUs por meio de código e configurações personalizados. Por exemplo, a família de instâncias G5g.

O parâmetro resourceRequirements da definição de trabalho especifica o número de GPUs a serem fixadas ao contêiner. Esse número de GPUs não está disponível para nenhum outro trabalho executado nessa instância pela duração esse trabalho. Todos os tipos de instâncias em um ambiente computacional que executem trabalhos de GPU devem ser das famílias de instâncias p6, p3, p4, p5, g3, g3s, g4, g5 ou g6. Se isso não for feito, um trabalho de GPU poderá ficar preso no status RUNNABLE.

Os trabalhos que não usarem as GPUs podem ser executados em instâncias de GPU. No entanto, eles podem custar mais para serem executados nas instâncias de GPU do que em instâncias semelhantes sem GPU. A depender da vCPU específica, da memória e do tempo necessário, essas tarefas que não são de GPU podem bloquear a execução de tarefas de GPU.

Tópicos