View a markdown version of this page

Conceitos básicos do CloudWatch SageMaker AI Insights - Amazon CloudWatch
Etapa 1: ativar o enriquecimento de OTelEtapa 2: verifique a configuração do endpointEtapa 3: confirme que o endpoint está InServiceEtapa 4: abra o SageMaker AI InsightsEtapa 5: verifique se os dados estão fluindoPermissões obrigatórias

Conceitos básicos do CloudWatch SageMaker AI Insights

Siga estas etapas para ativar e acessar o SageMaker AI Insights para seus endpoints de inferência.

Para ver o guia de configuração completo sobre como ativar métricas detalhadas de observabilidade em seus endpoints, consulte Observabilidade detalhada do SageMaker AI no Guia do Desenvolvedor do SageMaker AI.

Etapa 1: ativar o enriquecimento de OTel

O SageMaker AI Insights exige que o enriquecimento de métricas OTel e as tags de recursos estejam ativados em sua conta.

Para ativar o enriquecimento do OTel (console)

  1. Abra o console do CloudWatch e selecione Configurações.

  2. Ative o enriquecimento de métricas do OTel.

  3. Ative Tags de recursos para telemetria.

Para ativar o enriquecimento do OTel com a AWS CLI, use os seguintes comandos.

aws cloudwatch start-otel-enrichment
aws observabilityadmin start-telemetry-enrichment

Etapa 2: verifique sua configuração do endpoint

Certifique-se de que EnableDetailedObservability esteja definido como true na configuração do endpoint. Esse é o padrão para novos endpoints.

aws sagemaker describe-endpoint-config --endpoint-config-name name
# Look for "EnableDetailedObservability": true

Se não estiver ativado, crie uma nova configuração do endpoint com o sinalizador definido como true e atualize seu endpoint.

Etapa 3: confirme que seu endpoint está InService

Confirme se seu endpoint está no estado InService.

aws sagemaker describe-endpoint --endpoint-name name --query "EndpointStatus"

A saída esperada é "InService".

Etapa 4: abra o SageMaker AI Insights

Navegue até o painel usando qualquer um dos caminhos a seguir.

  • Console do CloudWatch → Monitoramento da infraestrutura → SageMaker AI Insights

  • Console do SageMaker AI → Endpoints → escolha Abrir o SageMaker AI Insights

  • Console do SageMaker AI → página de detalhes do endpoint → escolha Exibir no SageMaker AI Insights

Etapa 5: verifique se os dados estão fluindo

Depois de 2 a 3 minutos, o painel deve ser preenchido com os seguintes dados.

  • Contagens de invocação na barra de resumo

  • Dados de instância e componente de inferência (IC) na guia Desempenho

  • Métricas de utilização na guia Capacidade

dica

Se você vir Sem dados, verifique se o enriquecimento do OTel está ativado e se seu endpoint está InService há pelo menos 2 a 3 minutos.

Permissões necessárias para o SageMaker AI Insights

Algumas permissões do IAM são necessárias para usar o SageMaker AI Insights. A política a seguir contém as permissões necessárias para usar o SageMaker AI Insights.

{
    "Effect": "Allow",
    "Action": [
        "cloudwatch:GetMetricData",
        "cloudwatch:ListMetrics",
        "cloudwatch:DescribeAlarms",
        "sagemaker:DescribeEndpoint",
        "sagemaker:DescribeEndpointConfig",
        "sagemaker:ListEndpoints",
        "sagemaker:ListInferenceComponents"
    ],
    "Resource": "*"
}