翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。
開始方法
HyperPod での Ray は、オープンソースの KubeRay 演算子とそのカスタムリソースで実行され、変更されません。開始するには、Amazon EKS と KubeRay オペレーターによってオーケストレーションされた HyperPod クラスターのみが必要です。HyperPod は、2 つの方法のいずれかで採用した Ray に関する機能を追加します。
はじめに
これら 2 つのステップは、HyperPod で Ray を実行するために必要なすべてです。
-
Amazon EKS によってオーケストレーションされた HyperPod クラスターを作成します。詳細については、「Amazon EKS オーケストレーションを使用した SageMaker HyperPod クラスターの作成」を参照してください。
-
KubeRay 演算子をクラスターにインストールします。すべての Ray カスタムリソースを管理します。詳細については、「HyperPod Amazon EKS への KubeRay のインストール」を参照してください。
HyperPod の Ray 機能
HyperPod は Ray に関する機能を追加し、それらを採用する方法は 2 つあります。セットアップはどちらの方法でも同じで、どちらも同じオープンソースの Ray と同じ KubeRay カスタムリソースを実行します。違いは、チームが機能をどのように消費するかです。まず 1 つから始めて、後でもう 1 つを追加できます。
専用のデータサイエンティストエクスペリエンス。Amazon SageMaker Studio は、これらの機能を 1 つのインターフェイスにまとめます。Kubernetes マニフェストを記述せずに、Ray クラスターを作成および管理し、アタッチされたスペースでインタラクティブに開発し、ブラウザリンクから Ray Dashboard にアクセスし、Grafana ダッシュボードを開きます。Amazon SageMaker Studio for Ray を最初にセットアップします。詳細については、「Studio for Ray のセットアップ」を参照してください。その後、インタラクティブ開発用の SageMaker AI Spaces アドオンやダッシュボード用の HyperPod Observability アドオンなど、各機能を個別にオプトインできます。
機能を既存の内部 ML プラットフォームに統合します。Amazon EKS で独自の内部 ML プラットフォームを実行し、ツールとワークフローを維持したい場合は、これを選択します。HyperPod コンピューティングを Amazon EKS クラスターにアタッチし、不足している機能のみを採用します。Amazon SageMaker Studio は必要ありません。各機能は個別のアドオンまたは Python パッケージであるため、導入して停止できます。
すべての機能はどちらの方法でも利用できます。専用エクスペリエンスは、それぞれをウェブインターフェイスにラップし、独自のプラットフォームでは で同じ機能を駆動しますkubectl。
| 機能 | Amazon SageMaker Studio での専用エクスペリエンス | 独自のプラットフォーム |
|---|---|---|
| Ray ワークロードの管理 | Amazon SageMaker Studio ウェブインターフェイスで Ray クラスターを作成および管理します。 | kubectl と独自のRayClusterマニフェスト |
| IDE とノートブック | Ray 開発環境を作成するためのウェブ UI | でスペースをアタッチする kubectl |
| Ray Dashboard のアクセスとジョブの送信 | Studio スペースノートブックとコードエディタからのワンクリック認証アクセスとリモートジョブ送信 | kubectl Ray Dashboard リンクを生成するための コマンド |
| 可観測性 | HyperPod Observability アドオンの Grafana ダッシュボード | 同じアドオン、または独自の Prometheus |
| タスクガバナンスによるリソース共有とジョブキューイング | Ray ワークロードの作成中にリソース割り当てメトリクスを表示し、UI からキューに送信する | 経由 kubectl |
| 回復力のあるトレーニング (ノードの自動復旧、ハングジョブ検出、階層型チェックポイント) | インフラストラクチャレイヤーでサポート | インフラストラクチャレイヤーでサポート |
| 高速推論 (Ray Serve、マネージド階層型 KV キャッシュ、自動スケーリング) | インフラストラクチャレイヤーでサポート | インフラストラクチャレイヤーでサポート |