View a markdown version of this page

Erste Schritte mit CloudWatch SageMaker AI Insights - Amazon CloudWatch
Schritt 1: Aktivieren Sie die oTEL-AnreicherungSchritt 2: Überprüfen Sie die EndpunktkonfigurationSchritt 3: Bestätigen Sie, dass der Endpunkt InServiceSchritt 4: Öffnen Sie SageMaker AI InsightsSchritt 5: Stellen Sie sicher, dass Daten fließenErforderliche Berechtigungen

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Erste Schritte mit CloudWatch SageMaker AI Insights

Gehen Sie wie folgt vor, um SageMaker AI Insights für Ihre Inferenzendpunkte zu aktivieren und darauf zuzugreifen.

Den vollständigen Einrichtungsleitfaden zur Aktivierung detaillierter Observabilitätsmetriken auf Ihren Endpunkten finden Sie unter SageMaker AI Detailed Observability im AI Developer Guide. SageMaker

Schritt 1: Aktivieren Sie die oTEL-Anreicherung

SageMaker Für AI Insights müssen die oTEL-Metrikanreicherung und Ressourcen-Tags in Ihrem Konto aktiviert sein.

Um die oTEL-Anreicherung zu aktivieren (Konsole)

  1. Öffnen Sie die CloudWatch Konsole und wählen Sie Einstellungen.

  2. Aktivieren Sie die oTEL-Metrikanreicherung.

  3. Aktivieren Sie Ressourcen-Tags für Telemetrie.

Verwenden Sie die folgenden Befehle AWS CLI, um die oTEL-Anreicherung mit dem zu aktivieren.

aws cloudwatch start-otel-enrichment
aws observabilityadmin start-telemetry-enrichment

Schritt 2: Überprüfen Sie Ihre Endpunktkonfiguration

Stellen Sie sicher, EnableDetailedObservability dass dies in Ihrer Endpunktkonfiguration true auf eingestellt ist. Dies ist die Standardeinstellung für neue Endpunkte.

aws sagemaker describe-endpoint-config --endpoint-config-name name
# Look for "EnableDetailedObservability": true

Wenn es nicht aktiviert ist, erstellen Sie eine neue Endpunktkonfiguration, bei der das Flag auf gesetzt ist, true und aktualisieren Sie Ihren Endpunkt.

Schritt 3: Bestätigen Sie, dass Ihr Endpunkt InService

Vergewissern Sie sich, dass sich Ihr Endpunkt im InService Status befindet.

aws sagemaker describe-endpoint --endpoint-name name --query "EndpointStatus"

Die erwartete Ausgabe ist"InService".

Schritt 4: Öffnen Sie SageMaker AI Insights

Navigieren Sie mithilfe eines der folgenden Pfade zum Dashboard.

  • CloudWatch Konsole → Infrastrukturüberwachung → SageMaker AI Insights

  • SageMaker KI-Konsole → Endpunkte → wählen Sie Open SageMaker AI Insights

  • SageMaker KI-Konsole → Endpunkt-Detailseite → wählen Sie In SageMaker AI Insights anzeigen

Schritt 5: Stellen Sie sicher, dass Daten fließen

Nach 2—3 Minuten sollte das Dashboard mit den folgenden Daten gefüllt sein.

  • Die Anzahl der Aufrufe wird in der Übersichtsleiste angezeigt

  • Daten zu Instanzen und Inferenzkomponenten (IC) auf der Registerkarte „Leistung“

  • Nutzungskennzahlen auf der Registerkarte „Kapazität“

Tipp

Wenn Sie „Keine Daten“ sehen, vergewissern Sie sich, dass die oTEL-Erweiterung aktiviert ist und Ihr Endpunkt mindestens 2—3 InService Minuten aktiv war.

Erforderliche Berechtigungen für AI Insights SageMaker

Für die Verwendung von SageMaker AI Insights sind bestimmte IAM-Berechtigungen erforderlich. Die folgende Richtlinie enthält die Berechtigungen, die für die Verwendung von SageMaker AI Insights erforderlich sind.

{
    "Effect": "Allow",
    "Action": [
        "cloudwatch:GetMetricData",
        "cloudwatch:ListMetrics",
        "cloudwatch:DescribeAlarms",
        "sagemaker:DescribeEndpoint",
        "sagemaker:DescribeEndpointConfig",
        "sagemaker:ListEndpoints",
        "sagemaker:ListInferenceComponents"
    ],
    "Resource": "*"
}