View a markdown version of this page

Memecahkan Masalah Wawasan AI SageMaker - Amazon CloudWatch

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Memecahkan Masalah Wawasan AI SageMaker

Bagian berikut menjelaskan masalah dan resolusi umum untuk dasbor CloudWatch SageMaker AI Insights. Jika masalah Anda tidak tercantum di sini, verifikasi bahwa titik akhir Anda InService dan pengayaan OTel diaktifkan di akun Anda.

Dasbor menunjukkan “Tidak ada data” untuk semua panel

Penyebab: Pengayaan OTel tidak diaktifkan di akun Anda.

Resolusi:

  1. Buka CloudWatch konsol dan pilih Pengaturan.

  2. Aktifkan pengayaan metrik OTel.

  3. Aktifkan tag Sumber Daya untuk telemetri.

  4. Tunggu 2-3 menit hingga metrik mulai mengalir.

Atau, aktifkan pengayaan OTel dengan perintah berikut. AWS CLI

aws cloudwatch start-otel-enrichment aws observabilityadmin start-telemetry-enrichment

Kolom cache TTFT, TPS, dan KV menunjukkan tanda hubung

Penyebab: Metrik ini hanya tersedia untuk titik akhir menggunakan kerangka kerja VllM atau SGLang. Titik akhir yang menggunakan kerangka kerja lain (Tensorrt-LLM, wadah khusus) tidak memancarkan metrik ini.

Resolusi: Tidak diperlukan tindakan—ini adalah perilaku yang diharapkan.

SageMaker AI Insights dialihkan ke Database Insights

Penyebab: Masalah yang diketahui di beberapa akun.

Solusi: Di URL yang dialihkan, ganti dengan. instances endpoints Dasbor kemudian dimuat dengan benar.

Dasbor dimuat tetapi menunjukkan 0 pemanggilan

Penyebab: Titik akhir adalah InService tetapi tidak menerima lalu lintas, atau rentang waktu yang dipilih tidak memiliki pemanggilan.

Resolusi:

  • Kirim pemanggilan pengujian ke titik akhir.

  • Sesuaikan rentang waktu ke periode ketika lalu lintas aktif.

Metrik muncul di CloudWatch tetapi tidak di SageMaker AI Insights

Penyebab: EnableDetailedObservability mungkin tidak disetel ke true konfigurasi titik akhir.

Resolusi: Verifikasi konfigurasi titik akhir dengan perintah berikut.

aws sagemaker describe-endpoint-config --endpoint-config-name name # Look for "EnableDetailedObservability": true

Tabel acara penskalaan kosong

Penyebab: Application Auto Scaling tidak dikonfigurasi, atau tidak ada peristiwa penskalaan yang terjadi dalam rentang waktu yang dipilih.

Resolusi:

  • Konfigurasikan kebijakan penskalaan otomatis untuk titik akhir Anda.

  • Sesuaikan rentang waktu untuk menyertakan periode saat peristiwa penskalaan terjadi.