View a markdown version of this page

Memulai dengan CloudWatch SageMaker AI Insights - Amazon CloudWatch

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Memulai dengan CloudWatch SageMaker AI Insights

Ikuti langkah-langkah berikut untuk mengaktifkan dan mengakses SageMaker AI Insights untuk titik akhir inferensi Anda.

Untuk panduan penyiapan lengkap tentang mengaktifkan metrik pengamatan terperinci pada titik akhir Anda, lihat pengam SageMaker atan rinci AI di Panduan Pengembang SageMaker AI.

Langkah 1: Aktifkan pengayaan oTel

SageMaker AI Insights menghar uskan pengayaan metrik oTel dan tag sumber daya diaktifkan di akun Anda.

Untuk mengaktifkan pengayaan oTel (konsol)
  1. Buka CloudWatch konsol dan pilih Peng aturan.

  2. Aktifkan pengayaan metrik oTel.

  3. Aktif kan tag sumber daya untuk telemetri.

Untuk mengaktifkan pengayaan oTel dengan AWS CLI, gunakan perintah berikut.

aws cloudwatch start-otel-enrichment aws observabilityadmin start-telemetry-enrichment

Langkah 2: Verifikasi konfigurasi titik akhir Anda

Pastikan EnableDetailedObservability itu disetel ke true konfigurasi titik akhir Anda. Ini adalah default untuk titik akhir baru.

aws sagemaker describe-endpoint-config --endpoint-config-name name # Look for "EnableDetailedObservability": true

Jika tidak diaktifkan, buat konfigurasi titik akhir baru dengan tanda disetel ke true dan perbarui titik akhir Anda.

Langkah 3: Konfirmasikan titik akhir Anda adalah InService

Konfirmasikan bahwa titik akhir Anda berada di InService negara bagian.

aws sagemaker describe-endpoint --endpoint-name name --query "EndpointStatus"

Output yang diharapkan adalah"InService".

Langkah 4: Buka W SageMaker awasan AI

Arahkan ke dasbor dengan menggunakan salah satu jalur berikut.

  • CloudWatch konsol → Pemantauan infrastruktur → W SageMaker awasan AI

  • SageMaker Konsol AI → T itik akhir → pilih Open SageMaker AI Insights

  • SageMaker Konsol AI → halaman detail titik akhir → pilih Lihat di SageMaker AI Insights

Langkah 5: Verifikasi data mengalir

Setelah 2-3 menit, dasbor akan diisi dengan data berikut.

  • Jumlah pemanggilan di bilah ringkasan

  • Data komponen instans dan inferensi (IC) di tab Kin erja

  • Metrik pemanfaatan di tab Kapasitas

Tip

Jika Anda melihat Tidak ada data, verifikasi bahwa pengayaan oTEL diaktifkan dan titik akhir Anda setidaknya InService selama 2-3 menit.

Izin yang diperlukan untuk SageMaker AI Insights

Izin IAM tertentu diperlukan untuk menggunakan SageMaker AI Insights. Kebijakan berikut berisi izin yang diperlukan untuk menggunakan SageMaker AI Insights.

{ "Effect": "Allow", "Action": [ "cloudwatch:GetMetricData", "cloudwatch:ListMetrics", "cloudwatch:DescribeAlarms", "sagemaker:DescribeEndpoint", "sagemaker:DescribeEndpointConfig", "sagemaker:ListEndpoints", "sagemaker:ListInferenceComponents" ], "Resource": "*" }