View a markdown version of this page

CloudWatch SageMaker Memulai AI Insights - Amazon CloudWatch
Langkah 1: Aktifkan pengayaan OTelLangkah 2: Verifikasi konfigurasi titik akhirLangkah 3: Konfirmasikan titik akhir adalah InServiceLangkah 4: Buka Wawasan SageMaker AILangkah 5: Verifikasi data mengalirIzin yang diperlukan

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

CloudWatch SageMaker Memulai AI Insights

Ikuti langkah-langkah ini untuk mengaktifkan dan mengakses SageMaker AI Insights untuk titik akhir inferensi Anda.

Untuk panduan penyiapan lengkap tentang mengaktifkan metrik observabilitas terperinci pada titik akhir Anda, lihat pengamatan terperinci SageMaker AI di Panduan Pengembang AI. SageMaker

Langkah 1: Aktifkan pengayaan OTel

SageMaker AI Insights mengharuskan pengayaan metrik OTel dan tag sumber daya diaktifkan di akun Anda.

Untuk mengaktifkan pengayaan OTel (konsol)

  1. Buka CloudWatch konsol dan pilih Pengaturan.

  2. Aktifkan pengayaan metrik OTel.

  3. Aktifkan tag Sumber Daya untuk telemetri.

Untuk mengaktifkan pengayaan OTel dengan AWS CLI, gunakan perintah berikut.

aws cloudwatch start-otel-enrichment
aws observabilityadmin start-telemetry-enrichment

Langkah 2: Verifikasi konfigurasi titik akhir Anda

Pastikan itu EnableDetailedObservability diatur ke true konfigurasi titik akhir Anda. Ini adalah default untuk titik akhir baru.

aws sagemaker describe-endpoint-config --endpoint-config-name name
# Look for "EnableDetailedObservability": true

Jika tidak diaktifkan, buat konfigurasi titik akhir baru dengan tanda yang disetel ke true dan perbarui titik akhir Anda.

Langkah 3: Konfirmasikan titik akhir Anda InService

Konfirmasikan bahwa titik akhir Anda dalam InService status.

aws sagemaker describe-endpoint --endpoint-name name --query "EndpointStatus"

Output yang diharapkan adalah"InService".

Langkah 4: Buka Wawasan SageMaker AI

Arahkan ke dasbor dengan menggunakan salah satu jalur berikut.

  • CloudWatch konsol → Pemantauan infrastruktur → SageMaker AI Insights

  • SageMaker Konsol AI → Titik Akhir → pilih Open SageMaker AI Insights

  • SageMaker Konsol AI → halaman detail titik akhir → pilih Lihat di Wawasan SageMaker AI

Langkah 5: Verifikasi data mengalir

Setelah 2-3 menit, dasbor harus diisi dengan data berikut.

  • Permintaan dihitung di bilah ringkasan

  • Data komponen instance dan inferensi (IC) di tab Performance

  • Metrik pemanfaatan di tab Kapasitas

Tip

Jika Anda melihat Tidak ada data, verifikasi bahwa pengayaan OTel diaktifkan dan titik akhir Anda telah setidaknya 2-3 InService menit.

Izin yang diperlukan untuk SageMaker AI Insights

Izin IAM tertentu diperlukan untuk menggunakan SageMaker AI Insights. Kebijakan berikut berisi izin yang diperlukan untuk menggunakan SageMaker AI Insights.

{
    "Effect": "Allow",
    "Action": [
        "cloudwatch:GetMetricData",
        "cloudwatch:ListMetrics",
        "cloudwatch:DescribeAlarms",
        "sagemaker:DescribeEndpoint",
        "sagemaker:DescribeEndpointConfig",
        "sagemaker:ListEndpoints",
        "sagemaker:ListInferenceComponents"
    ],
    "Resource": "*"
}