Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Memulai
Ray on HyperPod berjalan pada KubeRay operator open source dan sumber daya kustomnya, tidak berubah. Untuk memulai, Anda hanya perlu HyperPod cluster yang diatur oleh Amazon EKS dan KubeRay operator yang diinstal di dalamnya. HyperPod kemudian menambahkan fitur di sekitar Ray yang Anda adopsi dalam salah satu dari dua cara.
Memulai
Dua langkah ini adalah semua yang Anda butuhkan untuk menjalankan Ray HyperPod.
-
Buat HyperPod cluster yang diatur oleh Amazon EKS. Untuk informasi selengkapnya, lihat Membuat SageMaker HyperPod cluster dengan orkestrasi Amazon EKS.
-
Instal KubeRay operator di cluster. Ia mengelola setiap sumber daya kustom Ray. Untuk informasi selengkapnya, lihat Menginstal KubeRay di HyperPod Amazon EKS.
Fitur Ray pada HyperPod
HyperPod menambahkan fitur di sekitar Ray, dan ada dua cara untuk mengadopsinya. Pengaturannya sama dengan cara apa pun, dan keduanya menjalankan Ray open source yang sama dan sumber daya KubeRay khusus yang sama. Yang berbeda adalah bagaimana tim Anda menggunakan fitur, dan Anda dapat mulai dengan satu dan menambahkan yang lain nanti.
Purpose-built pengalaman ilmuwan data. Amazon SageMaker Studio menyatukan fitur-fitur ini dalam satu antarmuka. Anda membuat dan mengelola cluster Ray, mengembangkan secara interaktif dalam ruang terlampir, mencapai Dasbor Ray melalui tautan browser, dan membuka dasbor Grafana, tanpa menulis manifes Kubernetes. Siapkan Amazon SageMaker Studio untuk Ray terlebih dahulu. Untuk informasi selengkapnya, lihat Menyiapkan Studio untuk Ray. Anda kemudian dapat memilih masing-masing fitur secara individual, seperti add-on SageMaker AI Spaces untuk pengembangan interaktif dan add-on HyperPod Observability untuk dasbor.
Mengintegrasikan kemampuan ke dalam platform ML internal Anda yang ada. Pilih ini jika Anda menjalankan platform HTML internal Anda sendiri di Amazon EKS dan ingin menyimpan perkakas dan alur kerja Anda. Anda melampirkan HyperPod komputasi ke kluster Amazon EKS Anda dan hanya mengadopsi kemampuan yang Anda lewatkan. Tidak ada yang membutuhkan Amazon SageMaker Studio. Setiap kemampuan adalah add-on terpisah atau paket Python, sehingga Anda dapat mengadopsi satu dan berhenti.
Setiap fitur tersedia dua arah. Pengalaman yang dibangun khusus membungkus masing-masing dalam antarmuka web, dan pada platform Anda sendiri, Anda menggerakkan fitur yang sama dengannya. kubectl
| Fitur | Purpose-built pengalaman di Amazon SageMaker Studio | Platform Anda sendiri |
|---|---|---|
| Mengelola beban kerja Ray | Membuat dan mengelola cluster Ray di antarmuka web Amazon SageMaker Studio | kubectldan RayCluster manifes Anda sendiri |
| IDE dan notebook | UI Web untuk membuat lingkungan pengembangan Ray | Pasang spasi dengan kubectl |
| Akses Ray Dashboard dan pengajuan pekerjaan | One-click akses otentikasi dan pengiriman pekerjaan jarak jauh dari notebook ruang Studio dan Editor Kode | kubectlperintah untuk menghasilkan tautan Dasbor Ray |
| Observabilitas | Dasbor Grafana dari add-on Observability HyperPod | Add-on yang sama, atau Prometheus Anda sendiri |
| Berbagi sumber daya dan antrian pekerjaan dengan Tata kelola tugas | Melihat metrik alokasi sumber daya selama pembuatan beban kerja Ray dan kirimkan ke antrian dari UI | melalui kubectl |
| Pelatihan tangguh (pemulihan otomatis simpul, deteksi pekerjaan yang digantung, pos pemeriksaan berjenjang) | Didukung di lapisan infrastruktur | Didukung di lapisan infrastruktur |
| Inferensi yang dipercepat (Ray Serve, cache KV berjenjang terkelola, penskalaan otomatis) | Didukung di lapisan infrastruktur | Didukung di lapisan infrastruktur |
