View a markdown version of this page

Inizia a usare CloudWatch SageMaker AI Insights - Amazon CloudWatch
Fase 1: Attivare l'arricchimento di OtelFase 2: Verifica della configurazione dell'endpointFase 3: Conferma che l'endpoint è InServiceFase 4: Aprire SageMaker AI InsightsFase 5: Verificare che i dati stiano fluendoAutorizzazioni richieste

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Inizia a usare CloudWatch SageMaker AI Insights

Segui questi passaggi per abilitare e accedere a SageMaker AI Insights per i tuoi endpoint di inferenza.

Per la guida completa alla configurazione sull'abilitazione di metriche di osservabilità dettagliate sugli endpoint, consulta l'osservabilità dettagliata dell'IA nella Guida per sviluppatori SageMaker AI. SageMaker

Fase 1: Abilita l'arricchimento di OTel

SageMaker AI Insights richiede che l'arricchimento delle metriche e i tag delle risorse di OTel siano abilitati nel tuo account.

Per abilitare l'arricchimento di Otel (console)

  1. Apri la CloudWatch console e scegli Impostazioni.

  2. Abilita l'arricchimento delle metriche di Otel.

  3. Abilita i tag Resource per la telemetria.

Per abilitare l'arricchimento di OTel con AWS CLI, usa i seguenti comandi.

aws cloudwatch start-otel-enrichment
aws observabilityadmin start-telemetry-enrichment

Fase 2: Verifica la configurazione dell'endpoint

Assicurati che EnableDetailedObservability sia impostato true sulla configurazione dell'endpoint. Questa è l'impostazione predefinita per i nuovi endpoint.

aws sagemaker describe-endpoint-config --endpoint-config-name name
# Look for "EnableDetailedObservability": true

Se non è abilitato, crea una nuova configurazione dell'endpoint con il flag impostato su true e aggiorna l'endpoint.

Fase 3: Conferma che l'endpoint sia InService

Conferma che l'endpoint sia nello stato in cui si trova. InService

aws sagemaker describe-endpoint --endpoint-name name --query "EndpointStatus"

L'output previsto è"InService".

Fase 4: Aprire SageMaker AI Insights

Accedi alla dashboard utilizzando uno dei seguenti percorsi.

  • CloudWatch console → Monitoraggio dell'infrastruttura → SageMaker AI Insights

  • SageMaker console AI → Endpoints → scegli Open SageMaker AI Insights

  • SageMaker Console AI → pagina dei dettagli dell'endpoint → scegli Visualizza in SageMaker AI Insights

Fase 5: Verifica che i dati stiano fluendo

Dopo 2-3 minuti, la dashboard dovrebbe essere compilata con i seguenti dati.

  • Le chiamate contano nella barra di riepilogo

  • Dati dell'istanza e del componente di inferenza (IC) nella scheda Prestazioni

  • Metriche di utilizzo nella scheda Capacità

Suggerimento

Se vedi Nessun dato, verifica che l'arricchimento di Otel sia abilitato e che l'endpoint sia attivo da almeno InService 2-3 minuti.

Autorizzazioni richieste per AI Insights SageMaker

Alcune autorizzazioni IAM sono necessarie per utilizzare SageMaker AI Insights. La seguente policy contiene le autorizzazioni necessarie per utilizzare SageMaker AI Insights.

{
    "Effect": "Allow",
    "Action": [
        "cloudwatch:GetMetricData",
        "cloudwatch:ListMetrics",
        "cloudwatch:DescribeAlarms",
        "sagemaker:DescribeEndpoint",
        "sagemaker:DescribeEndpointConfig",
        "sagemaker:ListEndpoints",
        "sagemaker:ListInferenceComponents"
    ],
    "Resource": "*"
}