Escalabilidade de instâncias gerenciadas do Lambda

As instâncias gerenciadas do Lambda não escalam quando as invocações chegam e não oferecem suporte a inicializações a frio. Em vez disso, elas escalam de forma assíncrona usando sinais de consumo de recursos. Atualmente, as instâncias gerenciadas escalam com base na utilização de recursos da CPU e na saturação de multissimultaneidade.

Principais diferenças:

Se seu tráfego mais do que dobrar em 5 minutos, será possível ver controles de utilização quando o Lambda aumentar a escala verticalmente das instâncias e ambientes de execução para atender à demanda.

O ciclo de vida de escalabilidade

As instâncias gerenciadas do Lambda usam uma arquitetura distribuída para gerenciar a escalabilidade:

Componentes:

Como funciona:

Ajuste do comportamento de escalabilidade

É possível personalizar o comportamento de escalabilidade das instâncias gerenciadas por meio de cinco controles:

Controles em nível de função

1. Memória da função e vCPUs

Escolha o tamanho da memória e a alocação de vCPUs para sua função. O menor tamanho de função com suporte é de 2 GB e 1 vCPU.

Considerações:

2. Simultaneidade máxima

Defina a simultaneidade máxima por ambiente de execução.

Comportamento padrão: o Lambda escolhe padrões sensatos que equilibram o consumo de recursos e o throughput, o que funciona para uma ampla variedade de aplicações.

Diretrizes de ajuste:

Importante: como as instâncias gerenciadas do Lambda são destinadas a aplicações multissimultâneas, ambientes de execução com simultaneidade muito baixa podem sofrer controles de utilização durante a escalabilidade.

3. Ambientes de execução por função

Defina o número mínimo e máximo de ambientes de execução para sua função.

Comportamento padrão: o Lambda mantém um padrão mínimo de 3 ambientes de execução para garantir alta disponibilidade em todas as zonas de disponibilidade.

Diretrizes de ajuste:

Exemplo:

aws lambda put-function-scaling-config \
  --function-name my-lmi-function \
  --qualifier '$LATEST.PUBLISHED' \
  --function-scaling-config MinExecutionEnvironments=5,MaxExecutionEnvironments=20 \
  --region us-east-1

Observações importantes:

Controles em nível de provedor de capacidade

4. Utilização de recursos do destino

Escolha seu próprio destino para o consumo de utilização da CPU.

Comportamento padrão: o Lambda mantém espaço suficiente para que seu tráfego dobre em 5 minutos sem controles de utilização.

Opções de otimização:

5. Seleção do tipo de instância

Defina os tipos de instância permitidos ou excluídos.

Comportamento padrão: o Lambda escolhe os melhores tipos de instância para sua workload. É recomendável que as instâncias gerenciadas do Lambda escolham os tipos de instância, pois restringir o número de tipos de instância possíveis pode resultar em menor disponibilidade.

Configuração personalizada:

Escalabilidade programada

Use o Agendador do Amazon EventBridge para ajustar os ambientes de execução mínimo e máximo da sua função em uma programação recorrente ou única. Isso é útil para padrões de tráfego previsíveis, como aumentar a escala verticalmente antes do horário de pico e reduzir a escala verticalmente fora do horário de pico.

Configuração do agendador:

Exemplo 1: escalar para lidar com picos de tráfego planejados

Crie duas programações para aumentar a escala verticalmente antes do horário de pico e reduzi-la depois. Cada programação tem como alvo a API PutFunctionScalingConfig com os valores MinExecutionEnvironments e MaxExecutionEnvironments atualizados.

Aumentar a escala verticalmente às 8:00 UTC (mín.=100, máx.=1000):

aws scheduler create-schedule \
  --name "ScaleUpLambdaManagedInstances" \
  --schedule-expression "cron(0 8 * * ? *)" \
  --flexible-time-window '{"Mode": "OFF"}' \
  --target '{
    "Arn": "arn:aws:scheduler:::aws-sdk:lambda:PutFunctionScalingConfig",
    "RoleArn": "arn:aws:iam::<account-id>:role/eventbridge-scheduler-role",
    "Input": "{\"FunctionName\": \"my-lmi-function\", \"Qualifier\": \"$LATEST.PUBLISHED\", \"FunctionScalingConfig\": {\"MinExecutionEnvironments\": 100, \"MaxExecutionEnvironments\": 1000}}"
  }'

Reduzir a escala verticalmente às 18:00 UTC (mín.=5, máx.=20):

aws scheduler create-schedule \
  --name "ScaleDownLambdaManagedInstances" \
  --schedule-expression "cron(0 18 * * ? *)" \
  --flexible-time-window '{"Mode": "OFF"}' \
  --target '{
    "Arn": "arn:aws:scheduler:::aws-sdk:lambda:PutFunctionScalingConfig",
    "RoleArn": "arn:aws:iam::<account-id>:role/eventbridge-scheduler-role",
    "Input": "{\"FunctionName\": \"my-lmi-function\", \"Qualifier\": \"$LATEST.PUBLISHED\", \"FunctionScalingConfig\": {\"MinExecutionEnvironments\": 5, \"MaxExecutionEnvironments\": 20}}"
  }'

Exemplo 2: desativar fora do horário de pico e reativar

Definir MinExecutionEnvironments e MaxExecutionEnvironments como 0 desativa a versão da função sem excluí-la. Uma função desativada não aumenta automaticamente com o tráfego. Você deve reativá-la explicitamente definindo valores diferentes de zero por meio de outra ação programada.

Desativar às 22:00 UTC (mín.=0, máx.=0):

aws scheduler create-schedule \
  --name "DeactivateLambdaManagedInstances" \
  --schedule-expression "cron(0 22 * * ? *)" \
  --flexible-time-window '{"Mode": "OFF"}' \
  --target '{
    "Arn": "arn:aws:scheduler:::aws-sdk:lambda:PutFunctionScalingConfig",
    "RoleArn": "arn:aws:iam::<account-id>:role/eventbridge-scheduler-role",
    "Input": "{\"FunctionName\": \"my-lmi-function\", \"Qualifier\": \"$LATEST.PUBLISHED\", \"FunctionScalingConfig\": {\"MinExecutionEnvironments\": 0, \"MaxExecutionEnvironments\": 0}}"
  }'

Reativar às 7:00 UTC (mín.=10, máx.=20):

aws scheduler create-schedule \
  --name "ReactivateLambdaManagedInstances" \
  --schedule-expression "cron(0 7 * * ? *)" \
  --flexible-time-window '{"Mode": "OFF"}' \
  --target '{
    "Arn": "arn:aws:scheduler:::aws-sdk:lambda:PutFunctionScalingConfig",
    "RoleArn": "arn:aws:iam::<account-id>:role/eventbridge-scheduler-role",
    "Input": "{\"FunctionName\": \"my-lmi-function\", \"Qualifier\": \"$LATEST.PUBLISHED\", \"FunctionScalingConfig\": {\"MinExecutionEnvironments\": 10, \"MaxExecutionEnvironments\": 20}}"
  }'

Diretrizes de ajuste:

Próximas etapas