View a markdown version of this page

Solução de problemas do SageMaker AI Insights - Amazon CloudWatch

Solução de problemas do SageMaker AI Insights

As próximas seções descrevem os problemas e as soluções comuns do CloudWatch SageMaker AI Insights do CloudWatch. Caso seu problema não esteja listado aqui, verifique se seu endpoint está InService e se o enriquecimento de OTel está ativado em sua conta.

O painel mostra “Sem dados” para todos os painéis

Causa: o enriquecimento do OTel não está ativado em sua conta.

Resolução:

  1. Abra o console do CloudWatch e selecione Configurações.

  2. Ative o enriquecimento de métricas do OTel.

  3. Ative Tags de recursos para telemetria.

  4. Espere de 2 a 3 minutos para que as métricas comecem a fluir.

Como alternativa, ative o enriquecimento do OTel com os seguintes comandos da AWS CLI.

aws cloudwatch start-otel-enrichment aws observabilityadmin start-telemetry-enrichment

As colunas de cache TTFT, TPS e KV mostram um traço

Causa: essas métricas só estão disponíveis para endpoints que usam as estruturas vLLM ou SGLang. Os endpoints que usam outras estruturas (TensorRT‐LLM, contêineres personalizados) não emitem essas métricas.

Resolução: nenhuma ação é necessária — esse é o comportamento esperado.

O SageMaker AI Insights redireciona para o Database Insights

Causa: problema conhecido em algumas contas.

Solução alternativa: no URL redirecionado, substitua instances por endpoints. O painel então carrega corretamente.

O painel carrega, mas mostra 0 invocações

Causa: o endpoint está InService, mas não está recebendo tráfego, ou o intervalo de tempo selecionado não tem invocações.

Resolução:

  • Envie invocações de teste para o endpoint.

  • Ajuste o intervalo de tempo para um período em que o tráfego estava ativo.

As métricas aparecem no CloudWatch, mas não no SageMaker AI Insights

Causa: EnableDetailedObservability pode não estar definido como true na configuração do endpoint.

Resolução: verifique a configuração do endpoint com o comando a seguir.

aws sagemaker describe-endpoint-config --endpoint-config-name name # Look for "EnableDetailedObservability": true

A tabela de eventos de escalonamento está vazia

Causa: o ajuste de escala automático da aplicação não está configurado ou nenhum evento de escalonamento ocorreu no intervalo de tempo selecionado.

Resolução:

  • Configure uma política de escalonamento automático para seu endpoint.

  • Ajuste o intervalo de tempo para incluir períodos em que os eventos de escalonamento ocorreram.