Blog dan Studi Kasus Notebook contoh Sumber daya tambahan

Blog, contoh buku catatan, dan sumber daya tambahan

Bagian berikut berisi contoh dan sumber daya tambahan bagi Anda untuk mempelajari lebih lanjut tentang Amazon SageMaker AI.

Blog dan Studi Kasus

Lihat tabel berikut untuk daftar blog dan studi kasus untuk berbagai fitur dalam Inferensi SageMaker AI. Anda dapat menggunakan blog untuk membantu mengumpulkan solusi yang sesuai untuk kasus penggunaan Anda.

Fitur	Sumber daya
Inferensi Waktu Nyata	Memulai dengan menerapkan model real-time di Amazon AI SageMaker Terapkan BLOOM-176B dan OPT-30B di Amazon AI dengan inferensi model SageMaker besar Deep Learning Containers dan DeepSpeed Membuat REST API yang didukung pembelajaran mesin dengan template pemetaan Amazon API Gateway dan Amazon AI SageMaker
Penskalaan otomatis	Mengonfigurasi titik akhir inferensi penskalaan otomatis di Amazon AI SageMaker
Inferensi Tanpa Server	Amazon SageMaker Serverless Inference — Machine Learning Inference tanpa Khawatir tentang Server Model transformator Host Hugging Face menggunakan SageMaker Amazon Serverless Inference Memperkenalkan Toolkit SageMaker Pembandingan Inferensi Tanpa Server Amazon
Inferensi Asinkron	Jalankan inferensi visi komputer pada video besar dengan titik akhir asinkron Amazon SageMaker AI Buat solusi pemeliharaan prediktif dengan Amazon Kinesis AWS Glue,, dan Amazon AI SageMaker Tingkatkan penelitian bernilai tinggi dengan titik akhir Hugging Face dan Amazon SageMaker Asynchronous Inference
Transformasi Batch	Mengaitkan hasil prediksi dengan data input menggunakan Amazon AI SageMaker Batch Transform
Titik Akhir Multi-Model	Hemat biaya inferensi dengan menggunakan titik akhir multi-model Amazon SageMaker AI Jalankan beberapa model pembelajaran mendalam di GPU dengan titik akhir multi-model Amazon SageMaker AI Cara menskalakan inferensi pembelajaran mesin untuk kasus penggunaan SaaS multi-penyewa Jalankan dan optimalkan inferensi multi-model dengan titik akhir multi-model Amazon SageMaker AI
Pipa Inferensi Serial	Pola desain untuk inferensi serial di Amazon AI SageMaker
Titik Akhir Multi-Kontainer	Inferensi ML hemat biaya dengan model multi-kerangka kerja di Amazon AI SageMaker
Menjalankan Ansambel Model	Jalankan model ensemble ML di Amazon AI SageMaker
Rekomendasi Inferensi	SageMaker Notebook contoh Inference Recommender SageMaker Rekomendasi Inferensi untuk notebook contoh Analisis Sentimen HuggingFace BERT Raih performa hyperscale untuk penyajian model menggunakan NVIDIA Triton Inference Server di Amazon AI SageMaker
Seri blog hosting model lanjutan	Bagian 1: Pola desain umum untuk membangun aplikasi ML di Amazon SageMaker AI Bagian 2: Memulai dengan menerapkan model waktu nyata di AI SageMaker Bagian 3: Jalankan dan optimalkan inferensi multi-model dengan titik akhir multi-model Amazon SageMaker AI Bagian 4: Pola desain untuk inferensi serial di Amazon AI SageMaker Bagian 5: Inferensi ML yang hemat biaya dengan model multi-kerangka kerja di Amazon AI SageMaker Bagian 6: Praktik terbaik dalam menguji dan memperbarui model pada SageMaker AI Bagian 7: Jalankan model ensemble mL di Amazon AI SageMaker

Notebook contoh

Lihat tabel berikut misalnya buku catatan yang dapat membantu Anda mempelajari lebih lanjut tentang Inferensi SageMaker AI.

Fitur	Notebook contoh
Rekomendasi Inferensi	SageMaker Notebook contoh Inference Recommender SageMaker Rekomendasi Inferensi untuk notebook contoh Analisis Sentimen HuggingFace BERT
Optimalkan model bahasa besar (LLMs) untuk SageMaker AI	Lokakarya AI LLMs generatif

Sumber daya tambahan

Untuk informasi lebih lanjut tentang setiap opsi Inferensi SageMaker AI secara detail, Anda dapat menonton video berikut.

Awas Javascript dinonaktifkan atau tidak tersedia di browser Anda.

Untuk menggunakan Dokumentasi AWS, Javascript harus diaktifkan. Lihat halaman Bantuan browser Anda untuk petunjuk.

Konvensi Dokumen

Sumber daya

Pemecahan masalah dan referensi