Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Rekomendasi SageMaker Inferensi Amazon
Amazon SageMaker Inference Recommender adalah kemampuan Amazon SageMaker AI. Ini mengurangi waktu yang diperlukan untuk mendapatkan model pembelajaran mesin (ML) dalam produksi dengan mengotomatiskan pengujian beban dan penyetelan model di seluruh inst SageMaker ans AI ML. Anda dapat menggunakan Inference Recommender untuk menerapkan model Anda ke titik akhir inferensi real-time atau tanpa server yang memberikan kinerja terbaik dengan biaya terendah. Inference Recommender membantu Anda memilih jenis dan konfigurasi instans terbaik untuk model ML dan beban kerja Anda. Ini mempertimbangkan faktor-faktor seperti jumlah instance, parameter kontainer, pengoptimalan model, konkurensi maksimum, dan ukuran memori.
Amazon SageMaker Inference Recommender hanya menagih Anda untuk instans yang digunakan saat pekerjaan Anda dijalankan.
Cara kerjanya
Untuk menggunakan Amazon SageMaker Inference Recommender, Anda dapat membuat model SageMaker AI atau mendaftarkan model ke Model Registry dengan artefak SageMaker model Anda. Gunakan AWS SDK for Python (Boto3) atau konsol SageMaker AI untuk menjalankan pekerjaan benchmarking untuk konfigurasi titik akhir SageMaker AI yang berbeda. Pekerjaan Inference Recommender membantu Anda mengumpulkan dan memvisualisasikan metrik di seluruh kinerja dan pemanfaatan sumber daya untuk membantu Anda memutuskan jenis titik akhir dan konfigurasi mana yang akan dipilih.
Cara Memulai
Jika Anda adalah pengguna Amazon SageMaker Inference Recommender pertama kali, kami sarankan Anda melakukan hal berikut:
-
Baca Prasyarat untuk menggunakan Amazon SageMaker Inference Recommender bagian ini untuk memastikan Anda telah memenuhi persyaratan untuk menggunakan Amazon SageMaker Inference Recommender.
-
Baca Lowongan rekomendasi dengan Amazon SageMaker Inference Recommender bagian ini untuk meluncurkan pekerjaan rekomendasi Inferensi Recommender pertama Anda.
-
Jelajahi contoh buku catatan Jupyter Amazon SageMaker Inference Recommender pengantar, atau tinjau
contoh buku catatan di bagian berikut.
Notebook contoh
Contoh buku catatan Jupyter berikut dapat membantu Anda dengan alur kerja untuk beberapa kasus penggunaan di Inference Recommender:
-
Jika Anda menginginkan buku catatan pengantar yang membandingkan TensorFlow model, lihat buku catatan SageMaker Inferensi Rekomendasi. TensorFlow
-
Jika Anda ingin membandingkan HuggingFace model, lihat Rekomendasi SageMaker Inferensi untuk HuggingFace
notebook. -
Jika Anda ingin membandingkan model XGBoost, lihat notebook SageMaker Inference Recommender XGBoost.
-
Jika Anda ingin meninjau CloudWatch metrik untuk pekerjaan Pemberi Rekomendasi Inferensi, lihat buku catatan metrik Rekomendasi SageMaker Inferensi. CloudWatch
