View a markdown version of this page

Studio を使用した Ray ワークロードの管理 - Amazon SageMaker AI

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

Studio を使用した Ray ワークロードの管理

Amazon SageMaker Studio は、ウェブインターフェイスから Ray ワークロードを管理します。HyperPod コンソールでクラスターを開き、タスクタブを選択します。タブには、アクセスできる名前空間内の Ray リソースが一覧表示され、タスクタイプフィルターは RayCluster、、RayJobRayCronJob、 の間で切り替わりますRayService

Studio は、オペレータが調整するのと同じ KubeRay カスタムリソースを読み書きします。Studio で作成するリソースは、 で適用するリソースと同じですkubectl。同じワークロード上の 2 つの表面間を移動できます。

Tasks タブを使用する前に、SageMaker AI ドメインを設定し、クラスターへのアクセスを許可します。詳細については、「Studio for Ray のセットアップ」を参照してください。

クラスターの作成

Ray クラスターの作成を選択し、フォームに記入するか、YAML ビューにRayClusterマニフェストを貼り付けます。フォームは一般的なフィールドを対象としています。YAML ビューは、KubeRay 演算子がサポートする任意のフィールドを受け入れます。フォームが公開しないフィールドが必要な場合に使用します。

フォームの名前空間セレクタには、アクセスできる各名前空間のコンピューティング割り当てと現在の使用率が表示されます。これを使用して、クラスターがクォータを待っていることを後で検出するのではなく、送信前に実際に空き容量に対してクラスターのサイズを設定します。これは、HyperPod タスクガバナンスが管理する名前空間で最も重要であり、宣言されたサイズ全体のクォータが存在するまでクラスターは許可されません。詳細については、「Ray ワークロードのクォータとスケジューリング動作」を参照してください。

インタラクティブに開発する場合は、クラスターにスペースをアタッチします。スペースは、Amazon SageMaker Studio の JupyterLab または Code Editor 環境です。 Amazon SageMaker ここで実行するコードは、ノートブックまたはターミナルで、 を介してクラスターに到達しますray.init()

スペースは、実行する SageMaker AI ディストリビューションイメージから独自の Ray バージョンを保持します。そのバージョンをクラスターの Ray バージョンと一致させます。不一致があると、診断が難しいランタイムエラーが発生します。詳細については、「Ray クラスターをスペースにアタッチする」を参照してください。

クラスターでのアクション

Studio を離れずにそのリソースを操作する行のアクションを選択します。

アクション その内容
インタラクティブ開発 クラスターにアタッチされた JupyterLab または Code Editor スペースを開き、ray.init()そのスペースがクラスターに接続します。SageMaker AI Spaces アドオンが必要です。詳細については、「Ray クラスターをスペースにアタッチする」を参照してください。
ジョブの送信 実行中のクラスターにジョブを送信します。
Ray ダッシュボードを開く クラスターの Ray Dashboard を開きます。Ray Endpoint Operator が必要です。詳細については、「HyperPod Ray Endpoint Operator のインストール」を参照してください。
Grafana を開く クラスターの Grafana ダッシュボードを開きます。オブザーバビリティアドオンが必要です。詳細については、「Ray メトリクスコレクションのセットアップ」を参照してください。
Ray クラスターを編集する ワーカーレプリカ数など、クラスターを変更します。
Ray クラスターを停止する クラスターのポッドを停止し、リソースを保持します。コンピューティングを解放します。
Ray クラスターを再開する 既存の設定で、中断されたクラスターのポッドを再起動します。クラスターが中断されている場合に使用できます。
Ray クラスターを削除する クラスターとそのポッドを削除します。

詳細とイベントの表示

リソース名を選択して開きます。Events タブには、Ray クラスターのポッドとその Kubernetes イベントが一覧表示されます。クラスターが実行状態に達しない場合は、そこから開始します。また、ポッドが予期せず再起動した場合や、ログで説明されない理由でジョブが失敗した場合にも役立ちます。イベントは、失敗したポッドと、イメージプルの失敗や割り当て可能な容量の不足などの理由に名前を付けます。詳細については、「Ray on HyperPod のトラブルシューティング」を参照してください。

クラスターの使用率を確認するには、アクションを選択し、Grafana を開きます。HyperPod タスクガバナンスが管理する名前空間のクォータ、優先度、プリエンプション動作については、「」を参照してくださいRay ワークロードのクォータとスケジューリング動作