**Ajudar a melhorar esta página** Para contribuir com este guia de usuário, escolha o link **Editar esta página no GitHub**, disponível no painel direito de cada página. # Otimizar a performance do Amazon FSx para Lustre em nós (não EFA) Você pode otimizar a performance do Amazon FSx para Lustre aplicando parâmetros de ajuste durante a inicialização do nó usando dados do usuário do modelo de execução. **nota** Para obter informações sobre como criar e implantar o driver CSI do FSx para Lustre, consulte [Implantar o driver do FSx para Lustre](fsx-csi-create.md). Para otimizar a performance com nós habilitados pelo EFA, consulte [Otimizar a performance do Amazon FSx para Lustre em nós (EFA)](fsx-csi-tuning-efa.md). ## Por que usar os dados do usuário do modelo de execução? + Aplica ajustes automaticamente durante a inicialização do nó. + Garante uma configuração consistente em todos os nós. + Elimina a necessidade de configuração manual dos nós. ## Visão geral do script de exemplo O script de exemplo definido neste tópico executa as seguintes operações: ### `# 1. Install Lustre client` + Detecta automaticamente a versão do seu sistema operacional Amazon Linux (AL). + Instala o pacote de cliente do Lustre apropriado. ### `# 2. Apply network and RPC tunings` + Define `ptlrpcd_per_cpt_max=64` para processamento paralelo de RPC. + Configura `ksocklnd credits=2560` para otimizar os buffers de rede. ### `# 3. Load Lustre modules` + Remove com segurança os módulos do Lustre existentes, se houver. + Lida com a desmontagem dos sistemas de arquivos existentes. + Carrega módulos do Lustre novos. ### `# 4. Lustre Network Initialization` + Inicializa a configuração de rede do Lustre. + Configura os parâmetros de rede necessários. ### `# 5. Mount FSx filesystem` + Você deve ajustar os valores para o seu ambiente nesta seção. ### `# 6. Apply tunings` + Ajustes da LRU (unidade de bloqueio de recursos): + `lru_max_age=600000` + `lru_size` calculado com base na contagem de CPU + Controle de cache do cliente: `max_cached_mb=64` + Controles de RPC: + OST `max_rpcs_in_flight=32` + MDC `max_rpcs_in_flight=64` + MDC `max_mod_rpcs_in_flight=50` ### `# 7. Verify tunings` + Verifica todos os ajustes aplicados. + Relata êxito ou uma advertência para cada parâmetro. ### `# 8. Setup persistence` + Você também deve ajustar os valores para o seu ambiente nesta seção. + Detecta automaticamente a versão do seu sistema operacional (AL2023) para determinar qual serviço do `Systemd` deve ser aplicado. + O sistema é iniciado. + O `Systemd` inicia o serviço `lustre-tunings` (devido a `WantedBy=multi-user.target`). + O serviço executa `apply_lustre_tunings.sh`, que: + Verifica se o sistema de arquivos está montado. + Monta o sistema de arquivos se não estiver montado. + Aguarda a montagem bem-sucedida (até cinco minutos). + Aplica parâmetros de ajuste após a montagem bem-sucedida. + As configurações permanecem ativas até a reinicialização. + O serviço é encerrado após a conclusão do script. + Systemd marca o serviço como "ativo (encerrado)". + O processo se repete na próxima reinicialização. ## Criar um modelo de execução 1. Abra o console do Amazon EC2 em https://console.aws.amazon.com/ec2/. 1. Escolha **Modelos de execução**. 1. Escolha **Criar modelo de execução**. 1. Em **Detalhes avançados**, localize a seção **Dados do usuário**. 1. Cole o script abaixo, atualizando o que for necessário. **Importante** Ajuste esses valores para seu ambiente na seção `# 5. Mount FSx filesystem` e na função `setup_persistence()` de `apply_lustre_tunings.sh` na seção `# 8. Setup persistence`: ``` FSX_DNS="" # Needs to be adjusted. MOUNT_NAME="" # Needs to be adjusted. MOUNT_POINT="" # Needs to be adjusted. ``` ``` MIME-Version: 1.0 Content-Type: multipart/mixed; boundary="==MYBOUNDARY==" --==MYBOUNDARY== Content-Type: text/x-shellscript; charset="us-ascii" #!/bin/bash exec 1> >(logger -s -t $(basename $0)) 2>&1 # Function definitions check_success() { if [ $? -eq 0 ]; then echo "SUCCESS: $1" else echo "FAILED: $1" return 1 fi } apply_tunings() { local NUM_CPUS=$(nproc) local LRU_SIZE=$((100 * NUM_CPUS)) local params=( "ldlm.namespaces.*.lru_max_age=600000" "ldlm.namespaces.*.lru_size=$LRU_SIZE" "llite.*.max_cached_mb=64" "osc.*OST*.max_rpcs_in_flight=32" "mdc.*.max_rpcs_in_flight=64" "mdc.*.max_mod_rpcs_in_flight=50" ) for param in "${params[@]}"; do lctl set_param $param check_success "Set ${param%%=*}" done } verify_param() { local param=$1 local expected=$2 local actual=$3 if [ "$actual" == "$expected" ]; then echo "SUCCESS: $param is correctly set to $expected" else echo "WARNING: $param is set to $actual (expected $expected)" fi } verify_tunings() { local NUM_CPUS=$(nproc) local LRU_SIZE=$((100 * NUM_CPUS)) local params=( "ldlm.namespaces.*.lru_max_age:600000" "ldlm.namespaces.*.lru_size:$LRU_SIZE" "llite.*.max_cached_mb:64" "osc.*OST*.max_rpcs_in_flight:32" "mdc.*.max_rpcs_in_flight:64" "mdc.*.max_mod_rpcs_in_flight:50" ) echo "Verifying all parameters:" for param in "${params[@]}"; do name="${param%%:*}" expected="${param#*:}" actual=$(lctl get_param -n $name | head -1) verify_param "${name##*.}" "$expected" "$actual" done } setup_persistence() { # Create functions file cat << 'EOF' > /usr/local/bin/lustre_functions.sh #!/bin/bash apply_lustre_tunings() { local NUM_CPUS=$(nproc) local LRU_SIZE=$((100 * NUM_CPUS)) echo "Applying Lustre performance tunings..." lctl set_param ldlm.namespaces.*.lru_max_age=600000 lctl set_param ldlm.namespaces.*.lru_size=$LRU_SIZE lctl set_param llite.*.max_cached_mb=64 lctl set_param osc.*OST*.max_rpcs_in_flight=32 lctl set_param mdc.*.max_rpcs_in_flight=64 lctl set_param mdc.*.max_mod_rpcs_in_flight=50 } EOF # Create tuning script cat << 'EOF' > /usr/local/bin/apply_lustre_tunings.sh #!/bin/bash exec 1> >(logger -s -t $(basename $0)) 2>&1 # Source the functions source /usr/local/bin/lustre_functions.sh # FSx details FSX_DNS="" # Needs to be adjusted. MOUNT_NAME="" # Needs to be adjusted. MOUNT_POINT="" # Needs to be adjusted. # Function to check if Lustre is mounted is_lustre_mounted() { mount | grep -q "type lustre" } # Function to mount Lustre mount_lustre() { echo "Mounting Lustre filesystem..." mkdir -p ${MOUNT_POINT} mount -t lustre ${FSX_DNS}@tcp:/${MOUNT_NAME} ${MOUNT_POINT} return $? } # Main execution # Try to mount if not already mounted if ! is_lustre_mounted; then echo "Lustre filesystem not mounted, attempting to mount..." mount_lustre fi # Wait for successful mount (up to 5 minutes) for i in {1..30}; do if is_lustre_mounted; then echo "Lustre filesystem mounted, applying tunings..." apply_lustre_tunings exit 0 fi echo "Waiting for Lustre filesystem to be mounted... (attempt $i/30)" sleep 10 done echo "Timeout waiting for Lustre filesystem mount" exit 1 EOF # Create systemd service cat << 'EOF' > /etc/systemd/system/lustre-tunings.service [Unit] Description=Apply Lustre Performance Tunings After=network.target remote-fs.target StartLimitIntervalSec=0 [Service] Type=oneshot ExecStart=/usr/local/bin/apply_lustre_tunings.sh RemainAfterExit=yes Restart=on-failure RestartSec=30 [Install] WantedBy=multi-user.target EOF chmod +x /usr/local/bin/lustre_functions.sh chmod +x /usr/local/bin/apply_lustre_tunings.sh systemctl enable lustre-tunings.service systemctl start lustre-tunings.service } echo "Starting FSx for Lustre configuration..." # 1. Install Lustre client if grep -q 'VERSION="2"' /etc/os-release; then amazon-linux-extras install -y lustre elif grep -q 'VERSION="2023"' /etc/os-release; then dnf install -y lustre-client fi check_success "Install Lustre client" # 2. Apply network and RPC tunings export PATH=$PATH:/usr/sbin echo "Applying network and RPC tunings..." if ! grep -q "options ptlrpc ptlrpcd_per_cpt_max" /etc/modprobe.d/modprobe.conf; then echo "options ptlrpc ptlrpcd_per_cpt_max=64" | tee -a /etc/modprobe.d/modprobe.conf echo "options ksocklnd credits=2560" | tee -a /etc/modprobe.d/modprobe.conf fi # 3. Load Lustre modules modprobe lustre check_success "Load Lustre modules" || exit 1 # 4. Lustre Network Initialization lctl network up check_success "Initialize Lustre networking" || exit 1 # 5. Mount FSx filesystem FSX_DNS="" # Needs to be adjusted. MOUNT_NAME="" # Needs to be adjusted. MOUNT_POINT="" # Needs to be adjusted. if [ ! -z "$FSX_DNS" ] && [ ! -z "$MOUNT_NAME" ]; then mkdir -p $MOUNT_POINT mount -t lustre ${FSX_DNS}@tcp:/${MOUNT_NAME} ${MOUNT_POINT} check_success "Mount FSx filesystem" fi # 6. Apply tunings apply_tunings # 7. Verify tunings verify_tunings # 8. Setup persistence setup_persistence echo "FSx for Lustre configuration completed." --==MYBOUNDARY==-- ``` 1. Ao criar grupos de nós do Amazon EKS, selecione este modelo de execução. Para obter mais informações, consulte [Criar um grupo de nós gerenciados para seu cluster](create-managed-node-group.md). ## Informações relacionadas + [Implantar o driver do FSx para Lustre](fsx-csi-create.md) + [Otimizar a performance do Amazon FSx para Lustre em nós (EFA)](fsx-csi-tuning-efa.md) + [Performance do Amazon FSx para Lustre](https://docs.aws.amazon.com/fsx/latest/LustreGuide/performance.html)