View a markdown version of this page

CloudWatch SageMaker AI Insights 入門 - Amazon CloudWatch
步驟 1：啟用 OTel 擴充功能步驟 2：驗證端點組態步驟 3：確認端點為 InService步驟 4：開啟 SageMaker AI Insights步驟 5：確認資料正在流動所需的許可

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

CloudWatch SageMaker AI Insights 入門

請依照下列步驟，為您的推論端點啟用和存取 SageMaker AI Insights。

如需在端點上啟用詳細可觀測性指標的完整設定指南，請參閱《SageMaker AI 開發人員指南》中的 SageMaker AI 詳細可觀測性。 SageMaker

步驟 1：啟用 OTel 擴充功能

SageMaker AI Insights 要求在您的帳戶中啟用 OTel 指標擴充和資源標籤。

啟用 OTel 擴充功能 （主控台）

  1. 開啟 CloudWatch 主控台，然後選擇設定。

  2. 啟用 OTel 指標擴充。

  3. 啟用遙測的資源標籤。

若要使用 啟用 OTel 擴充 AWS CLI功能，請使用下列命令。

aws cloudwatch start-otel-enrichment
aws observabilityadmin start-telemetry-enrichment

步驟 2：驗證您的端點組態

請確定端點組態true上的 EnableDetailedObservability 設定為 。這是新端點的預設值。

aws sagemaker describe-endpoint-config --endpoint-config-name name
# Look for "EnableDetailedObservability": true

如果未啟用，請使用 旗標建立新的端點組態，true並更新您的端點。

步驟 3：確認您的端點為 InService

確認您的端點處於 InService 狀態。

aws sagemaker describe-endpoint --endpoint-name name --query "EndpointStatus"

預期的輸出為 "InService"。

步驟 4：開啟 SageMaker AI Insights

使用下列任一路徑導覽至儀表板。

  • CloudWatch 主控台 → 基礎設施監控 → SageMaker AI Insights

  • SageMaker AI 主控台 → 端點 → 選擇開啟 SageMaker AI Insights

  • SageMaker AI 主控台 → 端點詳細資訊頁面 → 選擇 SageMaker AI Insights 中的檢視

步驟 5：確認資料正在流動

2-3 分鐘後，儀表板應該會填入下列資料。

  • 摘要列中的調用計數

  • 效能索引標籤中的執行個體和推論元件 (IC) 資料

  • 容量索引標籤中的使用率指標

提示

如果您看到沒有資料，請確認已啟用 OTel 擴充功能，且您的端點已InService至少 2-3 分鐘。

SageMaker AI Insights 的必要許可

使用 SageMaker AI Insights 需要特定 IAM 許可。下列政策包含使用 SageMaker AI Insights 所需的許可。

{
    "Effect": "Allow",
    "Action": [
        "cloudwatch:GetMetricData",
        "cloudwatch:ListMetrics",
        "cloudwatch:DescribeAlarms",
        "sagemaker:DescribeEndpoint",
        "sagemaker:DescribeEndpointConfig",
        "sagemaker:ListEndpoints",
        "sagemaker:ListInferenceComponents"
    ],
    "Resource": "*"
}