Fitur Amazon SageMaker AI

Anda dapat menjalankan resep di Amazon SageMaker HyperPod atau sebagai pekerjaan SageMaker pelatihan. Anda menggunakan adaptor HyperPod pelatihan sebagai kerangka kerja untuk membantu Anda menjalankan alur kerja end-to-end pelatihan. Adaptor pelatihan dibangun di atas NVIDIA NeMo kerangka kerja dan paket Pelatihan Terdistribusi Neuronx.

Di Amazon SageMaker Studio, Anda dapat meluncurkan beban kerja pembelajaran mesin di HyperPod klaster dan melihat informasi HyperPod klaster. Peningkatan visibilitas ke detail klaster dan metrik perangkat keras dapat membantu tim Anda mengidentifikasi kandidat yang tepat untuk beban kerja pra-pelatihan atau fine-tuning Anda.

Tata kelola SageMaker HyperPod tugas Amazon adalah sistem manajemen yang kuat yang dirancang untuk merampingkan alokasi sumber daya dan memastikan pemanfaatan sumber daya komputasi yang efisien di seluruh tim dan proyek untuk klaster Amazon Anda. EKS HyperPod Task governance juga menyediakan Observabilitas EKS klaster Amazon, menawarkan visibilitas real-time ke dalam kapasitas cluster, ketersediaan dan penggunaan komputasi, alokasi dan pemanfaatan tim, serta informasi tugas dan waktu tunggu.

Dengan Amazon SageMaker Partner AI Apps, pengguna mendapatkan akses ke aplikasi pengembangan kecerdasan buatan (AI) dan pembelajaran mesin (ML) generatif yang dibuat, diterbitkan, dan didistribusikan oleh penyedia aplikasi terkemuka di industri. Aplikasi AI Mitra disertifikasi untuk berjalan di SageMaker AI. Dengan Partner AI Apps, pengguna dapat mempercepat dan meningkatkan cara mereka membangun solusi berdasarkan model pondasi (FM) dan model ML klasik tanpa mengorbankan keamanan data sensitif mereka, yang tetap sepenuhnya dalam konfigurasi keamanan tepercaya mereka dan tidak pernah dibagikan dengan pihak ketiga.

Anda dapat mengobrol dengan Amazon Q Developer di Amazon SageMaker Canvas menggunakan bahasa alami untuk bantuan AI generatif dalam memecahkan masalah pembelajaran mesin Anda. Anda dapat berkomunikasi dengan Q Developer untuk mendiskusikan langkah-langkah alur kerja pembelajaran mesin dan memanfaatkan fungsionalitas Canvas seperti transformasi data, pembuatan model, dan penerapan.

Rencana SageMaker pelatihan Amazon adalah kemampuan reservasi komputasi yang dirancang untuk beban kerja pelatihan model AI skala besar yang berjalan pada pekerjaan dan SageMaker HyperPod cluster pelatihan. Mereka menyediakan akses yang dapat diprediksi ke sumber daya komputasi GPU berakselerasi permintaan tinggi dalam jangka waktu yang ditentukan. Anda dapat menentukan timeline, durasi, dan sumber daya komputasi maksimum yang diinginkan, dan rencana SageMaker pelatihan secara otomatis mengelola penyiapan infrastruktur, eksekusi beban kerja, dan pemulihan kesalahan. Hal ini memungkinkan perencanaan dan pelaksanaan proyek AI mission-critical secara efisien dengan model biaya yang dapat diprediksi.

Layanan Auto ML yang memberikan orang-orang tanpa pengalaman coding kemampuan untuk membangun model dan membuat prediksi dengan mereka.

Code Editor memperluas Studio sehingga Anda dapat menulis, menguji, men-debug, dan menjalankan analisis dan kode pembelajaran mesin Anda di lingkungan berdasarkan Visual Studio Code - Open Source (“Code- OSS “).

Bangun, latih, dan terapkan model ML menggunakan data geospasial.

Amazon SageMaker HyperPod adalah kemampuan SageMaker AI yang menyediakan lingkungan pembelajaran mesin yang selalu aktif pada cluster tangguh sehingga Anda dapat menjalankan beban kerja pembelajaran mesin apa pun untuk mengembangkan model pembelajaran mesin besar seperti model bahasa besar () dan model difusi. LLMs

JupyterLab di Studio meningkatkan latensi dan keandalan untuk Studio Notebook

Studio adalah pengalaman berbasis web terbaru untuk menjalankan alur kerja ML. Studio menawarkan serangkaianIDEs, termasuk Editor Kode, aplikasi Jupyterlab baruRStudio, dan Studio Classic.

Lingkungan pembelajaran mesin terintegrasi tempat Anda dapat membangun, melatih, menyebarkan, dan menganalisis semua model Anda dalam aplikasi yang sama.

Layanan gratis yang memberi pelanggan akses ke sumber daya AWS komputasi di lingkungan berdasarkan sumber terbuka JupyterLab.

Lingkungan pengembangan terintegrasi untuk R, dengan konsol, editor penyorotan sintaks yang mendukung eksekusi kode langsung, dan alat untuk merencanakan, riwayat, debugging, dan manajemen ruang kerja.

Bangun alur kerja yang diperlukan untuk tinjauan manusia terhadap prediksi ML. Amazon A2I membawa tinjauan manusia ke semua pengembang, menghilangkan beban berat yang tidak terdiferensiasi yang terkait dengan membangun sistem tinjauan manusia atau mengelola sejumlah besar pengulas manusia.

Buat pekerjaan AutoML untuk melatih model secara otomatis di Pipelines.

Pengguna tanpa pengetahuan pembelajaran mesin dapat dengan cepat membangun model klasifikasi dan regresi.

Praproses kumpulan data, jalankan inferensi saat Anda tidak memerlukan titik akhir yang persisten, dan kaitkan catatan input dengan kesimpulan untuk membantu interpretasi hasil.

Tingkatkan model pembelajaran mesin Anda dengan mendeteksi potensi bias dan membantu menjelaskan prediksi yang dibuat model.

Ruang bersama terdiri dari JupyterServer aplikasi bersama dan direktori bersama. Semua profil pengguna dalam domain Amazon SageMaker AI memiliki akses ke semua ruang bersama di domain.

Impor, analisis, siapkan, dan featurisasi data di SageMaker Studio. Anda dapat mengintegrasikan Data Wrangler ke dalam alur kerja pembelajaran mesin Anda untuk menyederhanakan dan merampingkan pra-pemrosesan data dan rekayasa fitur menggunakan sedikit atau tanpa pengkodean. Anda juga dapat menambahkan skrip dan transformasi Python Anda sendiri untuk menyesuaikan alur kerja persiapan data Anda.

Berinteraksi dengan data Anda, dapatkan visualisasi, jelajahi wawasan yang dapat ditindaklanjuti, dan perbaiki masalah kualitas data.

Periksa parameter dan data pelatihan selama proses pelatihan. Secara otomatis mendeteksi dan mengingatkan pengguna untuk kesalahan yang umum terjadi seperti nilai parameter menjadi terlalu besar atau kecil.

Optimalkan model khusus untuk perangkat edge, buat dan kelola armada dan jalankan model dengan runtime yang efisien.

Manajemen dan pelacakan eksperimen. Anda dapat menggunakan data yang dilacak untuk merekonstruksi eksperimen, secara bertahap membangun eksperimen yang dilakukan oleh rekan kerja, dan melacak garis keturunan model untuk kepatuhan dan verifikasi audit.

Toko terpusat untuk fitur dan metadata terkait sehingga fitur dapat dengan mudah ditemukan dan digunakan kembali. Anda dapat membuat dua jenis toko, toko Online atau Offline. Toko Online dapat digunakan untuk latensi rendah, kasus penggunaan inferensi real-time dan Toko Offline dapat digunakan untuk pelatihan dan inferensi batch.

Kumpulan data pelatihan berkualitas tinggi dengan menggunakan pekerja bersama dengan pembelajaran mesin untuk membuat kumpulan data berlabel.

Fitur pelabelan data turnkey untuk membuat kumpulan data pelatihan berkualitas tinggi tanpa harus membangun aplikasi pelabelan dan mengelola tenaga kerja pelabelan sendiri.

Dapatkan rekomendasi tentang jenis dan konfigurasi instans inferensi (misalnya jumlah instans, parameter kontainer, dan pengoptimalan model) untuk menggunakan model dan beban kerja MLmu.

Evaluasi setiap perubahan pada infrastruktur yang melayani model Anda dengan membandingkan kinerjanya dengan infrastruktur yang saat ini digunakan.

Pelajari tentang fitur dan kemampuan SageMaker AI melalui solusi 1-klik yang dikurasi, contoh notebook, dan model terlatih yang dapat Anda terapkan. Anda juga dapat menyempurnakan model dan menerapkannya.

Lacak garis keturunan alur kerja pembelajaran mesin.

Buat dan kelola pipeline pembelajaran mesin yang terintegrasi langsung dengan pekerjaan SageMaker AI.

Dokumentasikan informasi tentang model ML Anda di satu tempat untuk tata kelola dan pelaporan yang efisien di seluruh siklus hidup ML.

Ikhtisar visual yang dibuat sebelumnya dari semua model di akun Anda. Dasbor Model mengintegrasikan informasi dari SageMaker Model Monitor, mengubah pekerjaan, titik akhir, pelacakan garis keturunan, CloudWatch sehingga Anda dapat mengakses informasi model tingkat tinggi dan melacak kinerja model dalam satu tampilan terpadu.

Memantau dan menganalisis model dalam produksi (titik akhir) untuk mendeteksi penyimpangan data dan penyimpangan dalam kualitas model.

Pembuatan versi, pelacakan artefak dan garis keturunan, alur kerja persetujuan, dan dukungan lintas akun untuk penerapan model pembelajaran mesin Anda.

Latih model pembelajaran mesin sekali, lalu jalankan di mana saja di cloud dan di tepi.

Jalankan notebook SageMaker Studio Anda sebagai pekerjaan terjadwal yang tidak interaktif.

Menganalisis dan memproses data sebelumnya, menangani rekayasa fitur, dan mengevaluasi model.

Buat solusi end-to-end ML dengan CI/CD dengan menggunakan SageMaker Projects.

Maksimalkan imbalan jangka panjang yang diterima agen sebagai hasil dari tindakannya.

Administrator dapat menentukan izin hak istimewa terkecil untuk aktivitas MLM umum menggunakan peran berbasis persona kustom dan yang telah dikonfigurasi sebelumnya. IAM

Opsi endpoint tanpa server untuk menghosting model ML Anda. Secara otomatis menskalakan kapasitas untuk melayani lalu lintas titik akhir Anda. Menghapus kebutuhan untuk memilih jenis instance atau mengelola kebijakan penskalaan pada titik akhir.

Ekstensi Git untuk memasukkan repositori Git, mengkloningnya ke lingkungan Anda, mendorong perubahan, dan melihat riwayat komit. URL

SageMaker Notebook generasi berikutnya yang mencakup integrasi AWS IAM Identity Center (IAMIdentity Center), waktu start-up yang cepat, dan berbagi sekali klik.

Temukan, sambungkan, buat, hentikan, dan kelola EMR klaster Amazon dengan mudah dalam konfigurasi akun tunggal dan lintas akun langsung dari Studio. SageMaker

Latih model pembelajaran mendalam lebih cepat pada GPU instans skalabel yang dikelola oleh SageMaker AI.