本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
疑難排解 SageMaker AI Insights
下列各節說明 CloudWatch SageMaker AI Insights 儀表板的常見問題和解決方案。如果此處未列出您的問題,請確認您的端點為 ,InService且您的帳戶已啟用 OTel 擴充功能。
儀表板顯示所有面板的「無資料」
原因:您的帳戶中未啟用 OTel 擴充功能。
解決方法:
開啟 CloudWatch 主控台,然後選擇設定。
啟用 OTel 指標擴充。
啟用遙測的資源標籤。
等待 2-3 分鐘,讓指標開始流動。
或者,使用以下 AWS CLI 命令啟用 OTel 擴充。
aws cloudwatch start-otel-enrichment aws observabilityadmin start-telemetry-enrichment
TTFT、TPS 和 KV 快取資料欄會顯示破折號
原因:這些指標僅適用於使用 vLLM 或 SGLang 架構的端點。使用其他架構 (TensorRT‐LLM、自訂容器) 的端點不會發出這些指標。
解決方案:不需要任何動作,這是預期的行為。
SageMaker AI Insights 重新導向至 Database Insights
原因:某些帳戶中的已知問題。
解決方法:在重新導向的 URL 中,將 取代instances為 endpoints。然後,儀表板會正確載入。
儀表板載入,但顯示 0 個叫用
原因:端點正在InService接收流量,或選取的時間範圍沒有調用。
解決方法:
將測試調用傳送至端點。
將時間範圍調整為流量作用中的期間。
指標會出現在 CloudWatch 中,但不會出現在 SageMaker AI Insights 中
原因: EnableDetailedObservability可能不會在端點組態true上設定為 。
解決方案:使用以下命令驗證端點組態。
aws sagemaker describe-endpoint-config --endpoint-config-namename# Look for "EnableDetailedObservability": true
擴展事件資料表空白
原因:未設定 Application Auto Scaling,或選取的時間範圍中沒有發生擴展事件。
解決方法:
為您的端點設定自動擴展政策。
調整時間範圍以包含發生擴展事件的期間。