Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Titik akhir multi-kontainer
SageMaker titik akhir multi-kontainer memungkinkan pelanggan untuk menerapkan beberapa kontainer, yang menggunakan model atau kerangka kerja yang berbeda, pada satu titik akhir. SageMaker Kontainer dapat dijalankan secara berurutan sebagai pipa inferensi, atau setiap kontainer dapat diakses secara individual dengan menggunakan pemanggilan langsung untuk meningkatkan pemanfaatan titik akhir dan mengoptimalkan biaya.
Untuk informasi tentang menjalankan kontainer di titik akhir multi-kontainer secara berurutan, lihat. Pipa inferensi di Amazon SageMaker
Untuk informasi tentang menjalankan kontainer tertentu di titik akhir multi-kontainer, lihat Memanggil titik akhir multi-kontainer dengan pemanggilan langsung
Topik
- Buat titik akhir multi-kontainer (Boto 3)
- Memperbarui titik akhir multi-kontainer
- Memanggil titik akhir multi-kontainer dengan pemanggilan langsung
- Keamanan dengan titik akhir multi-kontainer dengan pemanggilan langsung
- Metrik untuk titik akhir multi-kontainer dengan pemanggilan langsung
- Titik akhir multi-kontainer skala otomatis
- Memecahkan masalah titik akhir multi-kontainer
Kebijakan berikut hanya mengizinkan invoke_endpoint
permintaan jika nilai TargetContainerHostname
bidang cocok dengan salah satu ekspresi reguler yang ditentukan.
{ "Version": "2012-10-17", "Statement": [ { "Action": [ "sagemaker:InvokeEndpoint" ], "Effect": "Allow", "Resource": "arn:aws:sagemaker:
region
:account-id
:endpoint/endpoint_name
", "Condition": { "StringLike": { "sagemaker:TargetContainerHostname": ["customIps*", "common*"] } } } ] }
Kebijakan berikut menolak invoke_endpoint
permintaan jika nilai TargetContainerHostname
bidang cocok dengan salah satu ekspresi reguler yang ditentukan dalam Deny
pernyataan.
{ "Version": "2012-10-17", "Statement": [ { "Action": [ "sagemaker:InvokeEndpoint" ], "Effect": "Allow", "Resource": "arn:aws:sagemaker:
region
:account-id
:endpoint/endpoint_name
", "Condition": { "StringLike": { "sagemaker:TargetContainerHostname": ["*"] } } }, { "Action": [ "sagemaker:InvokeEndpoint" ], "Effect": "Deny", "Resource": "arn:aws:sagemaker:region
:account-id
:endpoint/endpoint_name
", "Condition": { "StringLike": { "sagemaker:TargetContainerHostname": ["special*"] } } } ] }
Untuk informasi tentang kunci SageMaker kondisi, lihat Condition Keys untuk SageMaker di Panduan AWS Identity and Access Management Pengguna.