View a markdown version of this page

Trabalhando com sistemas EFA-enabled de arquivos - FSx para Lustre

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Trabalhando com sistemas EFA-enabled de arquivos

Se você estiver criando um sistema de arquivos com mais de 10 GBps de capacidade de throughput, recomendamos habilitar o Elastic Fabric Adapter (EFA) para otimizar o throughput por instância do cliente. O EFA é uma interface de rede de alto desempenho que usa uma técnica personalizada de desvio do sistema operacional e o protocolo de rede AWS Scalable Reliable Datagram (SRD) para aumentar o desempenho. Para obter informações sobre o EFA, consulte Adaptador Elastic Fabric para AI/ML cargas de trabalho de HPC no Amazon EC2 no Guia do usuário do Amazon EC2.

EFA-enabled os sistemas de arquivos oferecem suporte a dois recursos adicionais de desempenho: GPUDirect Storage (GDS) e ENA Express. O suporte ao GDS se baseia no EFA para aprimorar ainda mais o desempenho, permitindo a transferência direta de dados entre o sistema de arquivos e a memória da GPU, ignorando a CPU. Esse caminho direto elimina a necessidade de cópias redundantes da memória e do envolvimento da CPU nas operações de transferência de dados. Com o suporte de EFA e GDS, você pode obter maior taxa de transferência para instâncias individuais EFA-enabled de clientes. O ENA Express fornece comunicação de rede otimizada para instâncias do Amazon EC2 usando um algoritmo avançado de seleção de caminhos e um mecanismo aprimorado de controle de congestionamento. Com o suporte do ENA Express, você pode obter maior taxa de transferência para instâncias individuais Express-enabled do cliente ENA. Para obter mais informações sobre o ENA Express, consulte Melhorar a performance da rede entre instâncias do EC2 com o ENA Express no Guia do usuário do Amazon EC2.

Considerações ao usar sistemas de EFA-enabled arquivos

Aqui estão alguns itens importantes a serem considerados ao criar sistemas de EFA-enabled arquivos:

  • Várias opções de conectividade: os sistemas de EFA-enabled arquivos podem se comunicar com as instâncias do cliente usando ENA, ENA Express e EFA.

  • Tipo de implantação: o EFA é suportado em sistemas de arquivos Persistent 2 com uma configuração de metadados especificada, incluindo sistemas de arquivos que usam a classe Intelligent-Tiering de armazenamento.

  • Atualização da configuração do EFA: você pode optar por habilitar o EFA ao criar um novo sistema de arquivos, mas não pode ativar ou desativar o EFA em um sistema de arquivos existente.

  • Dimensionando a taxa de transferência com a capacidade de armazenamento: você pode escalar a capacidade de armazenamento em um sistema de EFA-enabled SSD-based arquivos para aumentar a capacidade de taxa de transferência, mas não pode alterar a camada de taxa de transferência de um sistema de arquivos. EFA-enabled

  • Regiões da AWS: Para obter uma lista dos Regiões da AWS sistemas de arquivos EFA-enabled Persistent 2 compatíveis, consulteDisponibilidade do tipo de implantação.

Pré-requisitos para usar sistemas de arquivos EFA-enabled

A seguir estão os pré-requisitos para o uso EFA-enabled de sistemas de arquivos:

Para criar seu sistema EFA-enabled de arquivos:

  • Use um grupo EFA-enabled de segurança. Para obter mais informações, consulte EFA-enabled grupos de segurança.

  • Use a mesma zona de disponibilidade e /16 CIDR como suas instâncias de EFA-enabled cliente em sua Amazon VPC.

  • Em sistemas de Intelligent-Tiering arquivos, o EFA só é suportado com uma capacidade de taxa de transferência de 4.000 MBps ou incrementos de 4.000 MBps.

Para acessar seu sistema de arquivos usando o Elastic Fabric Adapter (EFA):

  • Use instâncias do EC2 Nitro v4 (ou superior)compatíveis com o EFA, excluindo a família de instâncias trn2. Consulte Tipos de instância compatíveis no Guia do usuário do Amazon EC2.

  • Execute o AL2023, o RHEL 9.5 e versões mais recentes ou o Ubuntu 22+ com a versão do kernel 6.8 e mais recente. Para obter mais informações, consulte Instalar o   Lustro client.

  • Instale os módulos do EFA e configure as interfaces do EFA nas instâncias do seu cliente. Para obter mais informações, consulte Como configurar clientes do EFA.

Para acessar seu sistema de arquivos usando o GPUDirect Storage (GDS):

  • Use uma instância do Amazon EC2 P5, P5e, P5en ou cliente. P6-B200

  • Instale o pacote NVIDIA Compute Unified Device Architecture (CUDA), o driver NVIDIA de código aberto e o driver NVIDIA GPUDirect Storage na sua instância do cliente. Para obter mais informações, consulte Instale o driver GDS (opcional).

Para acessar seu sistema de arquivos usando o ENA Express:

Criação de um sistema EFA-enabled de arquivos

Esta seção contém instruções sobre como criar um sistema de arquivos FSx EFA-enabled for Lustre usando o. AWS CLI Para obter informações sobre como criar um sistema de EFA-enabled arquivos usando o console Amazon FSx, consulte. Etapa 1: criar o sistema de arquivos do FSx para Lustre

Use o comando da CLI create-file-system (ou a operação de API equivalente). CreateFileSystem O exemplo a seguir cria um sistema de arquivos FSx EFA-enabled for Lustre PERSISTENT_2 com um tipo de implantação.

aws fsx create-file-system\ --storage-capacity 4800 \ --storage-type SSD \ --file-system-type LUSTRE \ --file-system-type-version 2.15 \ --subnet-ids subnet-01234567890 \ --security-group-ids sg-0123456789abcdefg \ --lustre-configuration '{"DeploymentType": "PERSISTENT_2", "EfaEnabled": true}'

Depois de criar com êxito o sistema de arquivos, o Amazon FSx retorna a descrição do sistema de arquivos no formato JSON.