Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Memecahkan Masalah Wawasan AI SageMaker
Bagian berikut menjelaskan masalah dan resolusi umum untuk dasbor CloudWatch SageMaker AI Insights. Jika masalah Anda tidak tercantum di sini, verifikasi bahwa titik akhir Anda InService dan pengayaan OTel diaktifkan di akun Anda.
Dasbor menunjukkan “Tidak ada data” untuk semua panel
Penyebab: Pengayaan OTel tidak diaktifkan di akun Anda.
Resolusi:
Buka CloudWatch konsol dan pilih Pengaturan.
Aktifkan pengayaan metrik OTel.
Aktifkan tag Sumber Daya untuk telemetri.
Tunggu 2-3 menit hingga metrik mulai mengalir.
Atau, aktifkan pengayaan OTel dengan perintah berikut. AWS CLI
aws cloudwatch start-otel-enrichment aws observabilityadmin start-telemetry-enrichment
Kolom cache TTFT, TPS, dan KV menunjukkan tanda hubung
Penyebab: Metrik ini hanya tersedia untuk titik akhir menggunakan kerangka kerja VllM atau SGLang. Titik akhir yang menggunakan kerangka kerja lain (Tensorrt-LLM, wadah khusus) tidak memancarkan metrik ini.
Resolusi: Tidak diperlukan tindakan—ini adalah perilaku yang diharapkan.
SageMaker AI Insights dialihkan ke Database Insights
Penyebab: Masalah yang diketahui di beberapa akun.
Solusi: Di URL yang dialihkan, ganti dengan. instances endpoints Dasbor kemudian dimuat dengan benar.
Dasbor dimuat tetapi menunjukkan 0 pemanggilan
Penyebab: Titik akhir adalah InService tetapi tidak menerima lalu lintas, atau rentang waktu yang dipilih tidak memiliki pemanggilan.
Resolusi:
Kirim pemanggilan pengujian ke titik akhir.
Sesuaikan rentang waktu ke periode ketika lalu lintas aktif.
Metrik muncul di CloudWatch tetapi tidak di SageMaker AI Insights
Penyebab: EnableDetailedObservability mungkin tidak disetel ke true konfigurasi titik akhir.
Resolusi: Verifikasi konfigurasi titik akhir dengan perintah berikut.
aws sagemaker describe-endpoint-config --endpoint-config-namename# Look for "EnableDetailedObservability": true
Tabel acara penskalaan kosong
Penyebab: Application Auto Scaling tidak dikonfigurasi, atau tidak ada peristiwa penskalaan yang terjadi dalam rentang waktu yang dipilih.
Resolusi:
Konfigurasikan kebijakan penskalaan otomatis untuk titik akhir Anda.
Sesuaikan rentang waktu untuk menyertakan periode saat peristiwa penskalaan terjadi.