Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Tambah atau Hapus Model
Anda dapat menerapkan model tambahan ke titik akhir multi-model dan memanggilnya melalui titik akhir itu segera. Saat menambahkan model baru, Anda tidak perlu memperbarui atau menurunkan titik akhir, sehingga Anda menghindari biaya pembuatan dan menjalankan titik akhir terpisah untuk setiap model baru. Proses untuk menambah dan menghapus model sama untuk titik akhir CPU dan GPU-backed multi-model.
SageMaker AI membongkar model yang tidak digunakan dari wadah saat instance mencapai kapasitas memori dan lebih banyak model perlu diunduh ke dalam wadah. SageMaker AI juga menghapus artefak model yang tidak digunakan dari volume penyimpanan instans saat volume mencapai kapasitas dan model baru perlu diunduh. Pemanggilan pertama ke model yang baru ditambahkan membutuhkan waktu lebih lama karena titik akhir membutuhkan waktu untuk mengunduh model dari S3 ke memori wadah dalam contoh menghosting titik akhir
Dengan titik akhir yang sudah berjalan, salin satu set artefak model baru ke lokasi Amazon S3 di mana Anda menyimpan model Anda.
# Add an AdditionalModel to the endpoint and exercise it aws s3 cp AdditionalModel.tar.gz s3://amzn-s3-demo-bucket/path/to/artifacts/
penting
Untuk memperbarui model, lanjutkan seperti yang Anda lakukan saat menambahkan model baru. Gunakan nama baru dan unik. Jangan mengganti artefak model di Amazon S3 karena versi lama model mungkin masih dimuat di wadah atau pada volume penyimpanan instans di titik akhir. Pemanggilan ke model baru kemudian dapat memanggil versi lama model.
Aplikasi klien dapat meminta prediksi dari model target tambahan segera setelah disimpan di S3.
response = runtime_sagemaker_client.invoke_endpoint( EndpointName='<ENDPOINT_NAME>', ContentType='text/csv', TargetModel='AdditionalModel.tar.gz', Body=body)
Untuk menghapus model dari titik akhir multi-model, hentikan memanggil model dari klien dan hapus dari lokasi S3 tempat artefak model disimpan.
