翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。
SageMaker HyperPod での Ray
Ray は、AI および Python アプリケーションをスケーリングするためのオープンソースの統合フレームワークです。並列処理用のコンピューティングレイヤーを提供するため、クラスター全体で作業を実行するために分散システムの専門家である必要はありません。Ray Core は作業を配信し、Ray AI ライブラリはデータ処理、分散トレーニング、ハイパーパラメータ調整、強化学習、モデル供給をカバーします。詳細については、Ray ドキュメントの「概要
Ray on SageMaker HyperPod は、オープンソースの KubeRay 演算子を使用して、Amazon EKS によってオーケストレーションされた HyperPod コンピューティングで Ray ワークロードを実行します。 KubeRay Ray コード、Ray APIs、KubeRay カスタムリソースは変更されません。
HyperPod はオープンソース Ray と完全に連携し、その一部を置き換えるのではなく、その周囲に機能を追加します。
-
Amazon SageMaker Studio で Ray ワークロードを運用するための専用ウェブインターフェイス。以下のすべての機能を 1 つのインターフェイスにまとめています。
-
JupyterLab、コードエディタ、またはリモート IDE セッションが Ray クラスターにアタッチして
ray.init()接続するインタラクティブ開発。 -
なしで、認証されたブラウザリンクを介して Ray Dashboard へのアクセスを保護します
kubectl port-forward。 -
最初のトークン、JumpStart モデルのデプロイ、Ray Serve のマネージド Karpenter 自動スケーリングまでの時間を短縮するマネージド階層型 KV キャッシュ。
-
HyperPod タスクガバナンスによるチームのコンピューティング割り当て、優先度ベースのスケジューリング、アイドル状態のコンピューティングの貸し出しと借用。
-
HyperPod Observability アドオンによってプロビジョニングされた Ray メトリクスと Grafana ダッシュボード。
-
インフラストラクチャレイヤーでの自動ノード復旧、ハングジョブ検出、階層型チェックポイントによる回復力のあるトレーニング。
これらをすべて採用することも、不足している機能のみをインストールすることもできます。2 つのアプローチの詳細については、「」を参照してください開始方法。
前提条件
Ray on HyperPod には、Amazon EKS によってオーケストレーションされた HyperPod クラスターが必要です。作成の詳細については、「」を参照してくださいAmazon EKS オーケストレーションを使用した SageMaker HyperPod クラスターの作成。
リージョン
Ray on HyperPod は、SageMaker HyperPod AWS リージョン が Amazon EKS オーケストレーションをサポートしているすべての で使用できます。リージョンのリストについては、「」を参照してくださいAWS リージョン SageMaker HyperPod でサポートされる。
トピック
