Fitur Amazon SageMaker AI

Anda dapat menjalankan resep di Amazon SageMaker HyperPod atau sebagai pekerjaan SageMaker pelatihan. Anda menggunakan adaptor HyperPod pelatihan sebagai kerangka kerja untuk membantu menjalankan alur kerja pelatihan end-to-end. Adaptor pelatihan dibangun di atas NeMo kerangka kerja NVIDIA dan paket Pelatihan Terdistribusi Neuronx.

Di Amazon SageMaker Studio, Anda dapat meluncurkan beban kerja pembelajaran mesin di HyperPod cluster dan melihat informasi HyperPod cluster. Peningkatan visibilitas ke detail cluster dan metrik perangkat keras dapat membantu tim Anda mengidentifikasi kandidat yang tepat untuk beban kerja pra-pelatihan atau penyempurnaan Anda.

Tata kelola SageMaker HyperPod tugas Amazon adalah sistem manajemen yang kuat yang dirancang untuk merampingkan alokasi sumber daya dan memastikan pemanfaatan sumber daya komputasi yang efisien di seluruh tim dan proyek untuk cluster Amazon EKS Anda. HyperPod Tata kelola tugas juga menyediakan Pengamatan klaster Amazon EKS, menawarkan visibilitas real-time ke dalam kapasitas cluster, ketersediaan dan penggunaan komputasi, alokasi dan pemanfaatan tim, serta informasi waktu pengoperasian dan waktu tunggu tugas.

Dengan Amazon SageMaker Partner AI Apps, pengguna mendapatkan akses ke aplikasi pengembangan kecerdasan buatan (AI) dan pembelajaran mesin (ML) generatif yang dibuat, diterbitkan, dan didistribusikan oleh penyedia aplikasi terkemuka di industri. Aplikasi AI Mitra disertifikasi untuk berjalan di SageMaker AI. Dengan Aplikasi AI Partner, pengguna dapat mempercepat dan meningkatkan cara mereka membangun solusi berdasarkan model dasar (FM) dan model ML klasik tanpa mengorbankan keamanan data sensitif mereka, yang tetap sepenuhnya dalam konfigurasi keamanan tepercaya mereka dan tidak pernah dibagikan dengan pihak ketiga.

Anda dapat mengobrol dengan Amazon Q Developer di Amazon SageMaker Canvas menggunakan bahasa alami untuk bantuan AI generatif dalam memecahkan masalah pembelajaran mesin Anda. Anda dapat berbicara dengan Q Developer untuk mendiskusikan langkah-langkah alur kerja pembelajaran mesin dan memanfaatkan fungsionalitas Canvas seperti transformasi data, pembuatan model, dan penerapan.

R SageMaker encana pelatihan Amazon adalah kemampuan reservasi komputasi yang dirancang untuk beban kerja pelatihan model AI skala besar yang berjalan pada pekerjaan SageMaker pelatihan dan HyperPod cluster. Mereka menyediakan akses yang dapat diprediksi ke sumber daya GPU-accelerated komputasi permintaan tinggi dalam garis waktu tertentu. Anda dapat menentukan garis waktu yang diinginkan, durasi, dan sumber daya komputasi maksimum, dan rencana SageMaker pelatihan secara otomatis mengelola penyiapan infrastruktur, eksekusi beban kerja, dan pemulihan kesalahan. Hal ini memungkinkan perencanaan dan pelaksanaan proyek AI yang kritis secara efisien dengan model biaya yang dapat diprediksi.

Layanan ML otomatis yang memberi orang tanpa pengalaman pengkodean kemampuan untuk membangun model dan membuat prediksi dengannya.

Editor Kode memperluas Studio sehingga Anda dapat menulis, menguji, men-debug, dan menjalankan analisis dan kode pembelajaran mesin Anda di lingkungan berdasarkan Visual Studio Code - Open Source (” Code-OSS “).

Membangun, melatih, dan menerapkan model ML menggunakan data geospasial.

Amazon SageMaker HyperPod adalah kemampuan SageMaker AI yang menyediakan lingkungan pembelajaran mesin yang selalu aktif pada cluster tangguh sehingga Anda dapat menjalankan beban kerja pembelajaran mesin apa pun untuk mengembangkan model pembelajaran mesin besar seperti model bahasa besar (LLM) dan model difusi.

JupyterLab di Studio meningkatkan latensi dan keandalan untuk Notebook Studio

Studio adalah pengalaman berbasis web terbaru untuk menjalankan alur kerja ML. Studio menawarkan serangkaian IDE, termasuk Editor Kode, aplikasi Jupyterlab baru, RStudio, dan Studio Classic.

Lingkungan pembelajaran mesin terintegrasi tempat Anda dapat membangun, melatih, menerapkan, dan menganalisis semua model Anda dalam aplikasi yang sama.

Layanan gratis yang memberi pelanggan akses ke sumber daya AWS komputasi dalam lingkungan berdasarkan sumber terbuka JupyterLab.

Lingkungan pengembangan terintegrasi untuk R, dengan konsol, editor penyorotan sintaks yang mendukung eksekusi kode langsung, dan alat untuk merencanakan, riwayat, debugging, dan manajemen ruang kerja.

Bangun alur kerja yang diperlukan untuk tinjauan manusia terhadap prediksi ML. Amazon A2I membawa tinjauan manusia ke semua pengembang, menghilangkan beban berat yang tidak terdiferensiasi terkait dengan membangun sistem peninjauan manusia atau mengelola sejumlah besar peninjau manusia.

Buat pekerjaan AutoML untuk melatih model secara otomatis di Pipelines.

Pengguna tanpa pengetahuan pembelajaran mesin dapat dengan cepat membangun model klasifikasi dan regresi.

Praproses kumpulan data, jalankan inferensi saat Anda tidak memerlukan titik akhir yang persisten, dan kaitkan catatan input dengan kesimpulan untuk membantu interpretasi hasil.

Tingkatkan model pembelajaran mesin Anda dengan mendeteksi potensi bias dan membantu menjelaskan prediksi yang dibuat model.

Ruang bersama terdiri dari JupyterServer aplikasi bersama dan direktori bersama. Semua profil pengguna di domain Amazon SageMaker AI memiliki akses ke semua ruang bersama di domain.

Impor, analisis, persiapkan, dan fitur data di SageMaker Studio. Anda dapat mengintegrasikan Data Wrangler ke dalam alur kerja pembelajaran mesin Anda untuk menyederhanakan dan merampingkan pra-pemrosesan data dan rekayasa fitur menggunakan sedikit atau tanpa pengkodean. Anda juga dapat menambahkan skrip dan transformasi Python Anda sendiri untuk menyesuaikan alur kerja persiapan data Anda.

Berinteraksi dengan data Anda, dapatkan visualisasi, jelajahi wawasan yang dapat ditindaklanjuti, dan perbaiki masalah kualitas data.

Periksa parameter pelatihan dan data selama proses pelatihan. Secara otomatis mendeteksi dan memberi tahu pengguna tentang kesalahan yang umum terjadi seperti nilai parameter yang terlalu besar atau kecil.

Optimalkan model khusus untuk perangkat edge, buat dan kelola armada, dan jalankan model dengan runtime yang efisien.

Manajemen dan pelacakan eksperimen. Anda dapat menggunakan data yang dilacak untuk merekonstruksi eksperimen, secara bertahap membangun eksperimen yang dilakukan oleh rekan kerja, dan melacak garis keturunan model untuk kepatuhan dan verifikasi audit.

Penyimpanan terpusat untuk fitur dan metadata terkait sehingga fitur dapat dengan mudah ditemukan dan digunakan kembali. Anda dapat membuat dua jenis toko, toko Online atau Offline. Toko Online dapat digunakan untuk latensi rendah, kasus penggunaan inferensi real-time dan Toko Offline dapat digunakan untuk pelatihan dan inferensi batch.

High-quality melatih kumpulan data dengan menggunakan pekerja bersama dengan pembelajaran mesin untuk membuat kumpulan data berlabel.

Dapatkan rekomendasi tentang jenis instans inferensi dan konfigurasi (misalnya jumlah instans, parameter kontainer, dan pengoptimalan model) untuk menggunakan model ML dan beban kerja Anda.

Evaluasi setiap perubahan pada infrastruktur penyajian model Anda dengan membandingkan kinerjanya dengan infrastruktur yang digunakan saat ini.

Pelajari tentang fitur dan kemampuan SageMaker AI melalui solusi 1-klik yang dikurasi, contoh buku catatan, dan model pra-latih yang dapat Anda terapkan. Anda juga dapat menyempurnakan model dan menerapkannya.

Lacak garis keturunan alur kerja pembelajaran mesin.

Buat dan kelola pipeline pembelajaran mesin yang terintegrasi langsung dengan pekerjaan SageMaker AI.

Dokumentasikan informasi tentang model ML Anda di satu tempat untuk tata kelola dan pelaporan yang efisien sepanjang siklus hidup ML.

Tinjauan visual yang sudah dibuat sebelumnya dari semua model di akun Anda. Model Dashboard mengintegrasikan informasi dari SageMaker Model Monitor, mengubah pekerjaan, titik akhir, pelacakan garis keturunan, CloudWatch sehingga Anda dapat mengakses informasi model tingkat tinggi dan melacak kinerja model dalam satu tampilan terpadu.

Memantau dan menganalisis model dalam produksi (titik akhir) untuk mendeteksi penyimpangan data dan penyimpangan dalam kualitas model.

Pembuatan versi, pelacakan artefak dan garis keturunan, alur kerja persetujuan, dan dukungan lintas akun untuk penerapan model pembelajaran mesin Anda.

Latih model pembelajaran mesin sekali, lalu jalankan di mana saja di cloud dan di tepi.

Jalankan SageMaker buku catatan Studio Anda sebagai pekerjaan terjadwal yang tidak interaktif.

Menganalisis dan memproses data, menangani rekayasa fitur, dan mengevaluasi model.

Buat solusi ML end-to-end CI/CD dengan menggunakan Proj SageMaker ects.

Maksimalkan imbalan jangka panjang yang diterima agen sebagai hasil dari tindakannya.

Administrator dapat menentukan izin hak istimewa terkecil untuk aktivitas ML umum menggunakan peran IAM berbasis persona khusus dan yang telah dikonfigurasi sebelumnya.

Opsi titik akhir tanpa server untuk menghosting model ML Anda. Secara otomatis menskalakan kapasitas untuk melayani lalu lintas titik akhir Anda. Menghilangkan kebutuhan untuk memilih jenis instans atau mengelola kebijakan penskalaan pada titik akhir.

Ekstensi Git untuk memasukkan URL repositori Git, mengkloningnya ke lingkungan Anda, mendorong perubahan, dan melihat riwayat komit.

SageMaker Notebook generasi berikutnya yang mencakup integrasi AWS IAM Identity Center (IAM Identity Center), waktu start-up yang cepat, dan berbagi sekali klik.

Temukan, sambungkan, buat, hentikan, dan kelola cluster Amazon EMR dengan mudah dalam konfigurasi akun tunggal dan lintas akun langsung dari SageMaker Studio.

Latih model pembelajaran mendalam lebih cepat pada instans GPU terukur yang dikelola oleh SageMaker AI.