View a markdown version of this page

Vincular o sistema de arquivos a um bucket do Amazon S3 - FSx para Lustre

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Vincular o sistema de arquivos a um bucket do Amazon S3

É possível vincular seu sistema de arquivos do Amazon FSx para Lustre a repositórios de dados no Amazon S3. Você pode criar o link ao criar o sistema de arquivos ou a qualquer momento após a criação do sistema de arquivos.

Um link entre um diretório no sistema de arquivos e um bucket ou prefixo do S3 é chamado de associação de repositório de dados (DRA). Você pode configurar no máximo oito associações de repositório de dados em um sistema de arquivos do FSx para Lustre. No máximo oito solicitações de DRA podem ser enfileiradas, mas apenas uma solicitação pode ser processada por vez no sistema de arquivos. Cada DRA deve ter um diretório exclusivo do sistema de arquivos do FSx para Lustre e um bucket ou prefixo exclusivo do S3 associado a ele.

nota

Associações de repositório de dados, exportação automática e suporte para vários repositórios de dados não estão disponíveis nos sistemas de arquivos do FSx para Lustre 2.10 ou nos sistemas de arquivos Scratch 1.

Para acessar objetos no repositório de dados do S3 como arquivos e diretórios no sistema de arquivos, os metadados de arquivos e diretórios devem ser carregados no sistema de arquivos. Você pode carregar metadados de um repositório de dados vinculado ao criar o DRA ou carregar metadados para lotes de arquivos e diretórios que deseja acessar usando o sistema de arquivos do FSx para Lustre posteriormente usando uma tarefa de importação de repositório de dados, ou usar a exportação automática para carregar metadados automaticamente quando objetos forem adicionados, alterados ou excluídos do repositório de dados.

Você pode configurar um DRA somente para importação automática, somente para exportação automática ou ambas. Uma associação de repositório de dados configurada com importação e exportação automáticas propaga os dados em ambas as direções entre o sistema de arquivos e o bucket do S3 vinculado. Conforme você faz alterações nos dados no seu repositório de dados do S3, o FSx para Lustre detecta as alterações e, em seguida, importa automaticamente as alterações para o sistema de arquivos. À medida que você cria, modifica ou exclui arquivos, o FSx para Lustre exporta automaticamente as alterações para o Amazon S3 de forma assíncrona quando sua aplicação termina de modificar o arquivo.

Importante
  • Se você modificar o mesmo arquivo no sistema de arquivos e no bucket do S3, certifique-se da coordenação no nível da aplicação para evitar conflitos. O FSx para Lustre não evita gravações conflitantes em vários locais.

  • Para arquivos marcados com um atributo imutável, o FSx para Lustre não consegue sincronizar as alterações entre o sistema de arquivos do FSx para Lustre e um bucket do S3 vinculado ao sistema de arquivos. Definir um sinalizador imutável por um longo período de tempo pode diminuir a performance da movimentação de dados entre o Amazon FSx e o S3.

Ao criar uma associação de repositório de dados, você pode configurar as seguintes propriedades:

  • Caminho do sistema de arquivos: insira um caminho local no sistema de arquivos que aponte para um diretório (como /ns1/) ou subdiretório (como /ns1/subdir/) que será mapeado individualmente com o caminho do repositório de dados especificado abaixo. A barra inicial no nome é obrigatória. Duas associações de repositórios de dados não podem ter caminhos de sistema de arquivos sobrepostos. Por exemplo, se um repositório de dados estiver associado ao caminho do sistema de arquivos /ns1, você não poderá vincular outro repositório de dados ao caminho do sistema de arquivos /ns1/ns2.

    nota

    Se você especificar somente uma barra (/) como o caminho do sistema de arquivos, poderá vincular somente um repositório de dados ao sistema de arquivos. Só é possível especificar “/” como o caminho do sistema de arquivos para o primeiro repositório de dados associado a um sistema de arquivos.

  • Caminho do repositório de dados: insira um caminho no repositório de dados do S3. O caminho pode ser um bucket ou prefixo do S3 no formato s3://bucket-name/prefix/. Essa propriedade especifica de onde os arquivos do repositório de dados do S3 serão importados ou para onde serão exportados. O FSx para Lustre anexará uma barra “/” final ao caminho do repositório de dados, caso você não forneça uma. Por exemplo, se você fornecer um caminho de repositório de dados s3://amzn-s3-demo-bucket/my-prefix, o FSx para Lustre o interpretará como s3://amzn-s3-demo-bucket/my-prefix/.

    Duas associações de repositório de dados não podem ter caminhos de repositório de dados sobrepostos. Por exemplo, se um repositório de dados com o caminho s3://amzn-s3-demo-bucket/my-prefix/ estiver vinculado ao sistema de arquivos, você não poderá criar outra associação de repositório de dados com o caminho s3://amzn-s3-demo-bucket/my-prefix/my-sub-prefix do repositório de dados.

  • Importar metadados do repositório: você pode selecionar essa opção para importar metadados de todo o repositório de dados imediatamente após criar a associação de repositório de dados. Se preferir, você poderá executar uma tarefa de importação do repositório de dados para carregar todos ou um subconjunto dos metadados do repositório de dados vinculado no sistema de arquivos a qualquer momento após a criação da associação de repositório de dados.

  • Configurações de importação: escolha uma política de importação que especifique o tipo de objetos atualizados (qualquer combinação de novos, alterados e excluídos) que serão importados automaticamente do bucket do S3 vinculado para o sistema de arquivos. A importação automática (nova, alterada, excluída) é ativada por padrão quando você adiciona um repositório de dados do console, mas é desativada por padrão ao usar a API AWS CLI ou o Amazon FSx.

  • Configurações de importação: escolha uma política de importação que especifique o tipo de objetos atualizados (qualquer combinação de novos, alterados e excluídos) que serão exportados automaticamente para o bucket do S3. A exportação automática (nova, alterada, excluída) é ativada por padrão quando você adiciona um repositório de dados do console, mas é desativada por padrão ao usar a API AWS CLI ou o Amazon FSx.

As configurações Caminho do sistema de arquivos e Caminho do repositório de dados fornecem um mapeamento individual entre caminhos no Amazon FSx e chaves de objeto no S3.