View a markdown version of this page

Risoluzione dei problemi di SageMaker AI Insights - Amazon CloudWatch

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Risoluzione dei problemi di SageMaker AI Insights

Le sezioni seguenti descrivono i problemi e le risoluzioni comuni per la dashboard di CloudWatch SageMaker AI Insights. Se il problema non è elencato qui, verifica che il tuo endpoint lo sia InService e che Otel Enrichment sia abilitato nel tuo account.

La dashboard mostra «Nessun dato» per tutti i pannelli

Causa: l'arricchimento di OTel non è abilitato nel tuo account.

Risoluzione:

  1. Apri la CloudWatch console e scegli Impostazioni.

  2. Abilita l'arricchimento delle metriche di Otel.

  3. Abilita i tag Resource per la telemetria.

  4. Attendi 2-3 minuti affinché le metriche inizino a fluire.

In alternativa, abilitate l'arricchimento di Otel con i seguenti comandi. AWS CLI

aws cloudwatch start-otel-enrichment aws observabilityadmin start-telemetry-enrichment

Le colonne della cache TTFT, TPS e KV mostrano un trattino

Causa: queste metriche sono disponibili solo per gli endpoint che utilizzano i framework VLLm o SGlang. Gli endpoint che utilizzano altri framework (TensorRT‐LLM, contenitori personalizzati) non emettono queste metriche.

Risoluzione: non è necessaria alcuna azione: si tratta del comportamento previsto.

SageMaker AI Insights reindirizza a Database Insights

Causa: problema noto in alcuni account.

Soluzione alternativa: nell'URL reindirizzato, sostituisci instances con. endpoints La dashboard viene quindi caricata correttamente.

La dashboard viene caricata ma mostra 0 chiamate

Causa: l'endpoint InService non riceve traffico oppure l'intervallo di tempo selezionato non presenta chiamate.

Risoluzione:

  • Invia chiamate di test all'endpoint.

  • Adatta l'intervallo di tempo a un periodo in cui il traffico era attivo.

Le metriche vengono visualizzate in SageMaker AI CloudWatch Insights ma non in

Causa: EnableDetailedObservability potrebbe non essere impostata true sulla configurazione dell'endpoint.

Risoluzione: verifica la configurazione dell'endpoint con il seguente comando.

aws sagemaker describe-endpoint-config --endpoint-config-name name # Look for "EnableDetailedObservability": true

La tabella degli eventi di scalabilità è vuota

Causa: Application Auto Scaling non è configurato oppure non si è verificato alcun evento di scaling nell'intervallo di tempo selezionato.

Risoluzione:

  • Configura una politica di scalabilità automatica per il tuo endpoint.

  • Modifica l'intervallo di tempo per includere i periodi in cui si sono verificati eventi di scalabilità.