オブザーバビリティ

SageMaker HyperPod Observability アドオンは、Ray メトリクスを収集し、Ray ワークロード用に Grafana ダッシュボードをプロビジョニングします。アドオンをインストールすると、Ray ヘッドポッド、ワーカーポッド、KubeRay 演算子をスクレイプするコレクターがデプロイされます。コレクターはメトリクスを Amazon Managed Service for Prometheus に書き込み、ダッシュボードは Amazon Managed Grafana にインポートされます。手動の Prometheus と Grafana のセットアップはスキップします。

アドオンは Ray に固有ではありません。また、ハードウェアの状態、リソース使用率、タスクパフォーマンスに関するクラスターメトリクスも収集します。ソースには、NVIDIA DCGM、Kubernetes ノードエクスポーター、Elastic Fabric Adapter、統合ファイルシステム、Kueue などがあります。1 つのインストールでは、Ray ワークロードとそれらが実行されるクラスターをカバーします。

一般的なオブザーバビリティの設定については、「」を参照してくださいAmazon EKS がオーケストレーションした Amazon SageMaker HyperPod クラスターのオブザーバビリティ。