View a markdown version of this page

Fehlerbehebung bei SageMaker AI Insights - Amazon CloudWatch

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Fehlerbehebung bei SageMaker AI Insights

In den folgenden Abschnitten werden häufig auftretende Probleme und Lösungen für das CloudWatch SageMaker AI Insights-Dashboard beschrieben. Wenn Ihr Problem hier nicht aufgeführt ist, überprüfen Sie, ob Ihr Endpunkt dies ist InService und ob die oTEL-Anreicherung in Ihrem Konto aktiviert ist.

Das Dashboard zeigt „Keine Daten“ für alle Panels

Ursache: Die oTEL-Anreicherung ist in Ihrem Konto nicht aktiviert.

Auflösung

  1. Öffnen Sie die CloudWatch Konsole und wählen Sie Einstellungen.

  2. Aktivieren Sie die oTEL-Metrikanreicherung.

  3. Aktivieren Sie Ressourcen-Tags für Telemetrie.

  4. Warten Sie 2—3 Minuten, bis die Metriken beginnen zu fließen.

Alternativ können Sie die oTEL-Anreicherung mit den folgenden AWS CLI Befehlen aktivieren.

aws cloudwatch start-otel-enrichment aws observabilityadmin start-telemetry-enrichment

In den Spalten TTFT-, TPS- und KV-Cache wird ein Bindestrich angezeigt

Ursache: Diese Metriken sind nur für Endgeräte verfügbar, die das vLLM- oder SGLang-Framework verwenden. Endgeräte, die andere Frameworks verwenden (TensorRT‐LLM, benutzerdefinierte Container), geben diese Metriken nicht aus.

Lösung: Es sind keine Maßnahmen erforderlich — das ist erwartetes Verhalten.

SageMaker AI Insights leitet zu Database Insights weiter

Ursache: Bekanntes Problem bei einigen Konten.

Problemumgehung: Ersetzen Sie in der umgeleiteten URL instances durchendpoints. Das Dashboard wird dann korrekt geladen.

Das Dashboard wird geladen, zeigt aber 0 Aufrufe

Ursache: Der Endpunkt empfängt InService zwar keinen Datenverkehr, oder der ausgewählte Zeitraum enthält keine Aufrufe.

Auflösung

  • Sendet Testaufrufe an den Endpunkt.

  • Passen Sie den Zeitraum an einen Zeitraum an, in dem der Verkehr aktiv war.

Metriken werden in SageMaker AI Insights angezeigt, CloudWatch aber nicht

Ursache: EnableDetailedObservability Ist in der Endpunktkonfiguration möglicherweise nicht true auf eingestellt.

Lösung: Überprüfen Sie die Endpunktkonfiguration mit dem folgenden Befehl.

aws sagemaker describe-endpoint-config --endpoint-config-name name # Look for "EnableDetailedObservability": true

Die Tabelle mit Skalierungsereignissen ist leer

Ursache: Application Auto Scaling ist nicht konfiguriert, oder im ausgewählten Zeitraum sind keine Skalierungsereignisse aufgetreten.

Auflösung

  • Konfigurieren Sie eine Autoscaling-Richtlinie für Ihren Endpunkt.

  • Passen Sie den Zeitraum so an, dass er auch Zeiträume einschließt, in denen Skalierungsereignisse aufgetreten sind.