View a markdown version of this page

CloudWatch SageMaker AI Insights の使用を開始する - Amazon CloudWatch
ステップ 1: OTel エンリッチメントを有効にするステップ 2: エンドポイント設定を確認するステップ 3: エンドポイントが InService であることを確認するステップ 4: SageMaker AI Insights を開くステップ 5: データが流れていることを確認する必要なアクセス許可

CloudWatch SageMaker AI Insights の使用を開始する

推論エンドポイントの SageMaker AI Insights を有効にしてアクセスするには、次の手順に従います。

エンドポイントで詳細なオブザーバビリティメトリクスを有効にするための完全なセットアップガイドについては、「SageMaker AI デベロッパーガイド」の「SageMaker AI detailed observability」を参照してください。

ステップ 1: OTel エンリッチメントを有効にする

SageMaker AI Insights を使用するには、アカウントで OTel メトリクスエンリッチメントとリソースタグを有効にする必要があります。

OTel エンリッチメントを有効にするには (コンソール)

  1. CloudWatch コンソールを開き、[設定] を選択します。

  2. [OTel metric enrichment] を有効にします。

  3. [テレメトリのリソースタグ] を有効にします。

AWS CLI で OTel エンリッチメントを有効にするには、次のコマンドを使用します。

aws cloudwatch start-otel-enrichment
aws observabilityadmin start-telemetry-enrichment

ステップ 2: エンドポイント設定を確認する

エンドポイント設定で EnableDetailedObservability が true に設定されていることを確認します。これは、新しいエンドポイントのデフォルト設定です。

aws sagemaker describe-endpoint-config --endpoint-config-name name
# Look for "EnableDetailedObservability": true

有効になっていない場合は、フラグを true に設定した状態で新しいエンドポイント設定を作成し、エンドポイントを更新します。

ステップ 3: エンドポイントが InService であることを確認する

エンドポイントが InService 状態であることを確認します。

aws sagemaker describe-endpoint --endpoint-name name --query "EndpointStatus"

期待される出力は "InService" です。

ステップ 4: SageMaker AI Insights を開く

次のいずれかのパスを使用して、ダッシュボードに移動します。

  • CloudWatch コンソールで、[インフラストラクチャのモニタリング]、[SageMaker AI Insights] を順に選択する

  • SageMaker AI コンソールで、[エンドポイント]、[Open SageMaker AI Insights] を順に選択する

  • SageMaker AI コンソールのエンドポイントの詳細ページで [View in SageMaker AI Insights] を選択する

ステップ 5: データが流れていることを確認する

2～3 分後、ダッシュボードに次のデータが表示されるはずです。

  • 概要バーの呼び出し数

  • [パフォーマンス] タブのインスタンスと推論コンポーネント (IC) データ

  • [キャパシティ] タブの使用率メトリクス

ヒント

「データなし」と表示される場合は、OTel エンリッチメントが有効になっていて、エンドポイントが少なくとも 2～3 分間「InService」状態になっていることを確認してください。

SageMaker AI Insights に必要なアクセス許可

SageMaker AI Insights を使用するには、特定の IAM アクセス許可が必要です。次のポリシーには、SageMaker AI Insights を使用するために必要なアクセス許可が含まれています。

{
    "Effect": "Allow",
    "Action": [
        "cloudwatch:GetMetricData",
        "cloudwatch:ListMetrics",
        "cloudwatch:DescribeAlarms",
        "sagemaker:DescribeEndpoint",
        "sagemaker:DescribeEndpointConfig",
        "sagemaker:ListEndpoints",
        "sagemaker:ListInferenceComponents"
    ],
    "Resource": "*"
}