Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Memulai dengan CloudWatch SageMaker AI Insights
Ikuti langkah-langkah berikut untuk mengaktifkan dan mengakses SageMaker AI Insights untuk titik akhir inferensi Anda.
Untuk panduan penyiapan lengkap tentang mengaktifkan metrik pengamatan terperinci pada titik akhir Anda, lihat pengam SageMaker atan rinci AI di Panduan Pengembang SageMaker AI.
Langkah 1: Aktifkan pengayaan oTel
SageMaker AI Insights menghar uskan pengayaan metrik oTel dan tag sumber daya diaktifkan di akun Anda.
Untuk mengaktifkan pengayaan oTel (konsol)
-
Buka CloudWatch konsol dan pilih Peng aturan.
-
Aktifkan pengayaan metrik oTel.
-
Aktif kan tag sumber daya untuk telemetri.
Untuk mengaktifkan pengayaan oTel dengan AWS CLI, gunakan perintah berikut.
aws cloudwatch start-otel-enrichment aws observabilityadmin start-telemetry-enrichment
Langkah 2: Verifikasi konfigurasi titik akhir Anda
Pastikan EnableDetailedObservability itu disetel ke true konfigurasi titik akhir Anda. Ini adalah default untuk titik akhir baru.
aws sagemaker describe-endpoint-config --endpoint-config-namename# Look for "EnableDetailedObservability": true
Jika tidak diaktifkan, buat konfigurasi titik akhir baru dengan tanda disetel ke true dan perbarui titik akhir Anda.
Langkah 3: Konfirmasikan titik akhir Anda adalah InService
Konfirmasikan bahwa titik akhir Anda berada di InService negara bagian.
aws sagemaker describe-endpoint --endpoint-namename--query "EndpointStatus"
Output yang diharapkan adalah"InService".
Langkah 4: Buka W SageMaker awasan AI
Arahkan ke dasbor dengan menggunakan salah satu jalur berikut.
CloudWatch konsol → Pemantauan infrastruktur → W SageMaker awasan AI
SageMaker Konsol AI → T itik akhir → pilih Open SageMaker AI Insights
SageMaker Konsol AI → halaman detail titik akhir → pilih Lihat di SageMaker AI Insights
Langkah 5: Verifikasi data mengalir
Setelah 2-3 menit, dasbor akan diisi dengan data berikut.
Jumlah pemanggilan di bilah ringkasan
Data komponen instans dan inferensi (IC) di tab Kin erja
Metrik pemanfaatan di tab Kapasitas
Tip
Jika Anda melihat Tidak ada data, verifikasi bahwa pengayaan oTEL diaktifkan dan titik akhir Anda setidaknya InService selama 2-3 menit.
Izin yang diperlukan untuk SageMaker AI Insights
Izin IAM tertentu diperlukan untuk menggunakan SageMaker AI Insights. Kebijakan berikut berisi izin yang diperlukan untuk menggunakan SageMaker AI Insights.
{ "Effect": "Allow", "Action": [ "cloudwatch:GetMetricData", "cloudwatch:ListMetrics", "cloudwatch:DescribeAlarms", "sagemaker:DescribeEndpoint", "sagemaker:DescribeEndpointConfig", "sagemaker:ListEndpoints", "sagemaker:ListInferenceComponents" ], "Resource": "*" }