View a markdown version of this page

开始使用 CloudWatch SageMaker AI Insights - Amazon CloudWatch
步骤 1：启用 OTel 充实步骤 2：验证端点配置步骤 3：确认端点处于 InService 状态步骤 4：打开 SageMaker AI Insights步骤 5：确认数据是否流动所需的权限

开始使用 CloudWatch SageMaker AI Insights

按照以下步骤为您的推理端点启用和访问 SageMaker AI Insights。

有关在端点上启用详细可观测性指标的完整设置指南，请参阅《SageMaker AI 开发者指南》中的 SageMaker AI 详细可观测性。

步骤 1：启用 OTel 充实

SageMaker AI Insights 要求在您的账户中启用 OTel 指标充实和资源标签。

启用 OTel 充实（控制台）

  1. 打开 CloudWatch 控制台，然后选择设置。

  2. 启用 OTel 指标充实功能。

  3. 启用遥测数据资源标签功能。

要使用 AWS CLI 启用 OTel 充实，请使用以下命令。

aws cloudwatch start-otel-enrichment
aws observabilityadmin start-telemetry-enrichment

步骤 2：验证您的端点配置

确保 EnableDetailedObservability 在您的端点配置中设置为 true。这是新端点的默认设置。

aws sagemaker describe-endpoint-config --endpoint-config-name name
# Look for "EnableDetailedObservability": true

如果未启用，请创建新的端点配置，并将标志设置为 true 并更新您的端点。

步骤 3：确认您的端点处于 InService 状态

确认您的端点处于 InService 状态。

aws sagemaker describe-endpoint --endpoint-name name --query "EndpointStatus"

预期的输出是 "InService"。

步骤 4：打开 SageMaker AI Insights

使用以下任一路径导航到控制面板。

  • CloudWatch 控制台 → 基础设施监控 → SageMaker AI Insights

  • SageMaker AI 控制台 → 端点 → 选择打开 SageMaker AI Insights

  • SageMaker AI 控制台 → 端点详细信息页面 → 选择在 SageMaker AI Insights 中查看

步骤 5：确认数据是否流动

2-3 分钟后，控制面板应填充以下数据。

  • 摘要栏中的调用次数

  • 性能选项卡中的实例和推理组件（IC）数据

  • 容量选项卡中的利用率指标

提示

如果您看到无数据，请确认 OTel 充实功能已启用，并且您的端点已处于 InService 状态至少 2-3 分钟。

SageMaker AI Insights 所需的权限

使用 SageMaker AI Insights 需要某些 IAM 权限。以下策略包含使用 SageMaker AI Insights 所需的权限。

{
    "Effect": "Allow",
    "Action": [
        "cloudwatch:GetMetricData",
        "cloudwatch:ListMetrics",
        "cloudwatch:DescribeAlarms",
        "sagemaker:DescribeEndpoint",
        "sagemaker:DescribeEndpointConfig",
        "sagemaker:ListEndpoints",
        "sagemaker:ListInferenceComponents"
    ],
    "Resource": "*"
}