SageMaker AI Insights のトラブルシューティング
以下のセクションでは、CloudWatch SageMaker AI Insights ダッシュボードの一般的な問題と解決策について説明します。ここにリストされていない問題が発生した場合は、エンドポイントが InService であり、アカウントで OTel エンリッチメントが有効になっていることを確認してください。
ダッシュボードのすべてのパネルに「データなし」と表示されます
原因: OTel エンリッチメントがアカウントで有効になっていません。
解決策:
CloudWatch コンソールを開き、[設定] を選択します。
[OTel metric enrichment] を有効にします。
[テレメトリのリソースタグ] を有効にします。
メトリクスが流れ始めるまで 2～3 分待機します。
または、次の AWS CLI コマンドを使用して OTel エンリッチメントを有効にします。
aws cloudwatch start-otel-enrichment aws observabilityadmin start-telemetry-enrichment
TTFT、TPS、および KV キャッシュの列にダッシュが表示されます
原因: これらのメトリクスは、vLLM または SGLang フレームワークを使用するエンドポイントでのみ使用できます。他のフレームワーク (TensorRT‐LLM、カスタムコンテナ) を使用するエンドポイントは、これらのメトリクスを出力しません。
解決策: これは想定された動作であるため、アクションは不要です。
SageMaker AI Insights が Database Insights にリダイレクトされます
原因: 一部のアカウントで確認されている既知の問題です。
回避策: リダイレクトされた URL で、instances を endpoints に置き換えます。その後、ダッシュボードが正しくロードされます。
ダッシュボードはロードされますが、呼び出し回数が 0 と表示されます
原因: エンドポイントが InService 状態にもかかわらずトラフィックを受信していないか、選択した時間範囲内で呼び出しが行われていません。
解決策:
エンドポイントにテスト呼び出しを送信します。
時間範囲をトラフィックがアクティブであった期間に調整します。
メトリクスは CloudWatch に表示されますが、SageMaker AI Insights には表示されません
原因: エンドポイント設定で EnableDetailedObservability が true に設定されていない可能性があります。
解決策: 次のコマンドを使用してエンドポイント設定を確認します。
aws sagemaker describe-endpoint-config --endpoint-config-namename# Look for "EnableDetailedObservability": true
スケーリングイベントテーブルが空になっています
原因: Application Auto Scaling が設定されていないか、選択した時間範囲内でスケーリングイベントが発生していません。
解決策:
エンドポイントの自動スケーリングポリシーを設定します。
スケーリングイベントが発生した期間を含めるように時間範囲を調整します。
