View a markdown version of this page

疑難排解 SageMaker AI Insights - Amazon CloudWatch

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

疑難排解 SageMaker AI Insights

下列各節說明 CloudWatch SageMaker AI Insights 儀表板的常見問題和解決方案。如果此處未列出您的問題,請確認您的端點為 ,InService且您的帳戶已啟用 OTel 擴充功能。

儀表板顯示所有面板的「無資料」

原因:您的帳戶中未啟用 OTel 擴充功能。

解決方法:

  1. 開啟 CloudWatch 主控台,然後選擇設定

  2. 啟用 OTel 指標擴充

  3. 啟用遙測的資源標籤

  4. 等待 2-3 分鐘,讓指標開始流動。

或者,使用以下 AWS CLI 命令啟用 OTel 擴充。

aws cloudwatch start-otel-enrichment aws observabilityadmin start-telemetry-enrichment

TTFT、TPS 和 KV 快取資料欄會顯示破折號

原因:這些指標僅適用於使用 vLLM 或 SGLang 架構的端點。使用其他架構 (TensorRT‐LLM、自訂容器) 的端點不會發出這些指標。

解決方案:不需要任何動作,這是預期的行為。

SageMaker AI Insights 重新導向至 Database Insights

原因:某些帳戶中的已知問題。

解決方法:在重新導向的 URL 中,將 取代instancesendpoints。然後,儀表板會正確載入。

儀表板載入,但顯示 0 個叫用

原因:端點正在InService接收流量,或選取的時間範圍沒有調用。

解決方法:

  • 將測試調用傳送至端點。

  • 將時間範圍調整為流量作用中的期間。

指標會出現在 CloudWatch 中,但不會出現在 SageMaker AI Insights 中

原因: EnableDetailedObservability可能不會在端點組態true上設定為 。

解決方案:使用以下命令驗證端點組態。

aws sagemaker describe-endpoint-config --endpoint-config-name name # Look for "EnableDetailedObservability": true

擴展事件資料表空白

原因:未設定 Application Auto Scaling,或選取的時間範圍中沒有發生擴展事件。

解決方法:

  • 為您的端點設定自動擴展政策。

  • 調整時間範圍以包含發生擴展事件的期間。