Amazon EKS および Kubernetes Container Insights のメトリクス
以下の表は、Container Insights で収集する Amazon EKS および Kubernetes のメトリクスとディメンションを示しています。これらのメトリクスは ContainerInsights
名前空間にあります。詳細については、「メトリクス」を参照してください。
コンソールに Container Insights メトリクスが表示されない場合は、Container Insights のセットアップが完了していることを確認します。メトリクスは、Container Insights が完全にセットアップされるまで表示されません。詳細については、「Container Insights の設定」を参照してください。
Amazon EKS アドオンのバージョン 1.5.0 以降、または CloudWatch エージェントのバージョン 1.300035.0 を使用している場合、次の表に示されているほとんどのメトリクスは Linux ノードと Windows ノードの両方で収集されます。Windows で収集されないメトリクスを確認するには、表の「メトリクス名」列を参照してください。
Container Insights の元のバージョンでは、メトリクスはカスタムメトリクスとして課金されます。Amazon EKS 向けにオブザーバビリティが強化された Container Insights では、観察結果ごと Container Insights メトリクスに課金されます。保存されたメトリクスまたは取り込まれたログごとには課金されません。CloudWatch の料金の詳細については、Amazon CloudWatch の料金
注記
Windows で、ホストプロセスコンテナの pod_network_rx_bytes
や pod_network_tx_bytes
などのネットワークメトリクスは収集されません。
メトリクス名 | Container Insights の任意のバージョンのディメンション | Amazon EKS 向けにオブザーバビリティが強化された Container Insights のその他のディメンション | 説明 |
---|---|---|---|
|
|
クラスター内の失敗したワーカーノードの数。ノードの状態に何らかの問題がある場合は、そのノードは失敗したとみなされます。詳細については、Kubernetes ドキュメントの 「Conditions (状態) |
|
|
|
クラスター内のワーカーノードの総数。 |
|
|
|
使用しているディメンションによって指定されたリソースの名前空間ごとに実行されているポッドの数。 |
|
|
|
|
このクラスター内の単一のノードに割り当てることができる CPU ユニットの最大数。 |
|
|
ノードコンポーネント (kubelet、kube-proxy、Docker など) に予約されている CPU ユニットの割合。 計算式: 注記
|
|
|
|
|
クラスターのノードで使用されている CPU ユニットの数。 |
|
|
クラスター内のノードで使用されている CPU ユニットの合計使用率。 計算式: |
|
|
|
クラスター内のノードで使用されているファイルシステム容量の合計使用率。 計算式: 注記
|
|
|
|
|
このクラスター内の単一のノードに割り当てることができるメモリの最大量 (バイト単位)。 |
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます。Windows ではご利用いただけません。 |
|
ノード上の inode (使用済みおよび未使用) の総数。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます。Windows ではご利用いただけません。 |
|
ノード上の未使用の inode の数。 |
|
|
|
クラスター内のノードで現在使用されているメモリの割合。 計算式: 注記
|
|
|
|
ノードによって現在使用されているメモリの割合。これは、ノードのメモリ制限で割られたノードのメモリ使用量の割合です。 計算式: |
|
|
|
|
クラスターで現在稼働しているノードのセットで使用されているメモリの量 (バイト単位)。 |
|
|
クラスターのノードごとにネットワーク経由で送信および受信された合計バイト数。 計算式: 注記
|
|
|
|
クラスターのノードごとに実行中のコンテナの数。 |
|
|
|
クラスターのノードごとに実行中のポッドの数。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
割り当て可能なリソースに基づいてノードに割り当てることができるポッドの数。システムデーモンの予約とハードエビクションのしきい値の考慮後のノードの残りの容量として定義されます。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
容量に基づいてノードに割り当てることができるポッドの数。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ノード ステータスの条件 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ノードステータスの条件 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ノードステータスの条件 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ノードステータスの条件 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ノードステータス条件のいずれかが不明であるかどうかを示します。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ノード上のネットワークインターフェイスによって受信されたが、その後削除されたパケットの数。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ノード上のネットワークインターフェイスによって送信される予定だったが、削除されたパケットの数。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます。Windows ではご利用いただけません。 |
|
ノード上のすべての I/O オペレーションにより送信された合計バイト数。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます。Windows ではご利用いただけません。 |
|
ノード上の I/O オペレーションの総数。 |
|
|
|
|
クラスターのポッドごとに予約されている CPU 容量。 計算式: 注記
|
|
名前空間: Service、名前空間、
|
|
ポッドで使用されている CPU ユニットの割合。 計算式: 注記
|
|
名前空間: Service、名前空間、
|
|
ポッドの制限に対する、ポッドで使用されている CPU ユニットの割合。 計算式: 注記
|
|
|
|
ポッド用に予約されているメモリの割合。 計算式: 注記
|
|
名前空間: Service、名前空間、
|
|
ポッドが現在使用しているメモリの割合。 計算式: 注記
|
|
名前空間: Service、名前空間、
|
|
ポッドの制限に対する、ポッドで使用されているメモリの割合。ポッドのいずれかのコンテナに、定義されたメモリ制限がない場合、このメトリクスは表示されません。 計算式: 注記
|
|
名前空間: Service、名前空間、
|
|
ポッドによって、ネットワーク経由で受信されているバイト数。 計算式: 注記
|
|
名前空間: Service、名前空間、
|
|
ポッドによって、ネットワーク経由で送信されているバイト数。 計算式: 注記
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ポッドの CPU リクエスト。 計算式: 注記
|
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ポッドのメモリリクエスト。 計算式: 注記
|
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ポッド内のコンテナに定義されている CPU 制限。ポッド内のいずれかのコンテナに定義された CPU 制限がない場合、このメトリクスは表示されません。 計算式: 注記
|
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ポッド内のコンテナに定義されているメモリ上限。ポッドのいずれかのコンテナに、定義されたメモリ制限がない場合、このメトリクスは表示されません。 計算式: 注記
|
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ポッド内のすべてのコンテナが終了したことを示します。また、少なくとも 1 つのコンテナがゼロ以外のステータスで終了したか、システムによって終了されたことを示します。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ポッド内のすべてのコンテナの準備が整い、条件 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ポッド内のすべてのコンテナが実行中であることを示します。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ポッドがノードにスケジュールされていることを示します。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ポッドのステータスを取得できないことを示します。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ポッドはクラスターに受け入れられたが、1 つ以上のコンテナの準備がまだ整っていないことを示します。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ポッド内のすべてのコンテナが正常に終了し、再起動されていないことを示します。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ポッドの仕様で定義されているコンテナの数をレポートします。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
現在、 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
|
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
|
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
|
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
|
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
理由 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
コンテナの作成中にエラーが発生したため、理由 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
|
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
|
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
コンテナの起動中にエラーが発生したため、 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ポッド用にネットワークインターフェイスが受信されたが、その後削除されたパケットの数。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ポッド用に送信される予定だったが、削除されたパケットの数。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
コンテナで使用されている CPU ユニットの割合。 計算式: 注記
|
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
コンテナの制限に対する、コンテナで使用されている CPU ユニットの割合。コンテナに定義された CPU 制限がない場合、このメトリクスは表示されません。 計算式: 注記
|
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
コンテナで使用されているメモリユニットの割合。 計算式: 注記
|
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
コンテナの制限に対する、コンテナで使用されているメモリユニットの割合。コンテナに定義されたメモリ制限がない場合、このメトリクスは表示されません。 計算式: 注記
|
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます。Windows ではご利用いただけません。 |
|
コンテナがメモリの割り当てに失敗した回数。 |
|
|
PodName、 |
ポッドでのコンテナ再起動の合計数。 |
|
|
Service、
|
クラスターでサービス (1 つまたは複数) を実行しているポッドの数。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ワークロードの仕様で定義されているワークロードに必要なポッドの数。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
準備完了の状態に達したワークロードにおけるポッドの数。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
1 つのワークロードで使用可能なポッドの数。ポッドは、ワークロードの仕様で定義されている |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
ワークロードで利用できないポッドの数。ポッドは、ワークロードの仕様で定義されている |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
最後の確認時に etcd に保存されたオブジェクトの数。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
Kubernetes API サーバーに転送された API リクエストの総数。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
Kubernetes API サーバーへの API リクエストの応答レイテンシー。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
アドミッションコントローラーのレイテンシー (秒単位)。アドミッションコントローラーは Kubernetes API サーバーへのリクエストをインターセプトするコードです。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
Kubernetes API サーバーを呼び出すクライアントに起こる応答レイテンシー。このメトリクスは実験段階で、Kubernetes の今後のリリースで変更される可能性があります。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
クライアントにより作成された Kubernetes API サーバーへの API リクエストの総数。このメトリクスは実験段階で、Kubernetes の今後のリリースで変更される可能性があります。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
Etcd への API 呼び出しの応答レイテンシー。このメトリクスは実験段階で、Kubernetes の今後のリリースで変更される可能性があります。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
物理的に割り当てられたストレージデータベースファイルのサイズ (バイト単位)。このメトリクスは実験段階で、Kubernetes の今後のリリースで変更される可能性があります。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
Kubernetes API サーバーへの長時間稼働リクエストの数。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
Kubernetes API サーバーにより処理されているリクエストの数。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
アドミッションウェブフックのレイテンシー (秒単位)。アドミッションウェブフックはアドミッションリクエストを受信し、何らかの処理を行う HTTP コールバックです。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
アドミッションのサブステップのレイテンシー (秒単位)。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
Kubernetes API サーバー上での非推奨の API へのリクエストの数。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
Kubernetes API サーバーへのリクエストのうち、5XX HTTP レスポンスコードで応答されたリクエストの数。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
Etcd からのオブジェクトを一覧表示する応答レイテンシー。このメトリクスは実験段階で、Kubernetes の今後のリリースで変更される可能性があります。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
Kubernetes API サーバーによりキューに保存されたリクエストの数。このメトリクスは実験段階で、Kubernetes の今後のリリースで変更される可能性があります。 |
|
このメトリクスは Amazon EKS 向けにオブザーバビリティが強化された Container Insights でのみ利用できます |
|
API Priority and Fairness のサブシステムによって拒否されたリクエストの数。このメトリクスは実験段階で、Kubernetes の今後のリリースで変更される可能性があります。 |
NVIDIA GPU メトリクス
CloudWatch エージェントのバージョン 1.300034.0
以降で Amazon EKS 向けにオブザーバビリティが強化された Container Insights は、デフォルトで EKS ワークロードから NVIDIA GPU メトリクスを収集します。CloudWatch エージェントは、CloudWatch Observability EKS アドオンのバージョン v1.3.0-eksbuild.1
以降を使用してインストールする必要があります。詳細については、「Amazon CloudWatch Observability EKS アドオンまたは Helm チャートを使用して CloudWatch エージェントをインストールする」を参照してください。収集されるこれらの NVIDIA GPU メトリクスは、このセクションにある表に一覧表示されています。
Container Insights が NVIDIA GPU メトリクスを収集するには、次の前提条件を満たす必要があります。
Amazon EKS 向けにオブザーバビリティが強化された Container Insights を使用するには、Amazon CloudWatch Observability EKS アドオンバージョン
v1.3.0-eksbuild.1
以降を使用する必要があります。クラスターに Kubernetes 用 NVIDIA デバイスプラグイン
がインストールされている必要があります。 クラスターのノードに NVIDIA コンテナツールキット
がインストールされている必要があります。例えば、Amazon EKS-Optimized Accelerated AMI は、必要なコンポーネントで作成されています。
最初の CloudWatch エージェント設定ファイルの accelerated_compute_metrics
オプションを false
に設定することで、NVIDIA GPU メトリクスの収集をオプトアウトできます。詳細とオプトアウトの設定の例については、「(オプション) その他の設定」を参照してください。
メトリクス名 | ディメンション | 説明 |
---|---|---|
|
|
コンテナに割り当てられた GPU のフレームバッファの合計サイズ (バイト)。 |
|
|
コンテナに割り当てられた GPU で使用されているフレームバッファのバイト数。 |
|
|
コンテナに割り当てられた GPU のうち、使用されているフレームバッファの割合。 |
|
|
コンテナに割り当てられた GPU の電力使用量 (ワット)。 |
|
|
コンテナに割り当てられた GPU の温度 (摂氏)。 |
|
|
コンテナに割り当てられた GPU の使用率。 |
|
|
ノードに割り当てられた GPU のフレームバッファの合計サイズ (バイト)。 |
|
|
ノードに割り当てられた GPU で使用されているフレームバッファのバイト数。 |
|
|
ノードに割り当てられた GPU で使用されているフレームバッファの割合。 |
|
|
ノードに割り当てられた GPU の電力使用量 (ワット)。 |
|
|
ノードに割り当てられた GPU の温度 (摂氏)。 |
|
|
ノードに割り当てられた GPU の使用率。 |
|
|
ポッドに割り当てられた GPU のフレームバッファの合計サイズ (バイト)。 |
|
|
ポッドに割り当てられた GPU で使用されているフレームバッファのバイト数。 |
|
|
ポッドに割り当てられた GPU で使用されているフレームバッファの割合。 |
|
|
ポッドに割り当てられた GPU の電力使用量 (ワット)。 |
|
|
ポッドに割り当てられた GPU の温度 (摂氏)。 |
|
|
ポッドに割り当てられた GPU の使用率。 |
AWS Trainium と AWS Inferentia の AWS Neuron メトリクス
CloudWatch エージェントのバージョン 1.300036.0
以降、Amazon EKS 向けにオブザーバビリティが強化された Container Insights は、デフォルトで AWS Trainium および AWS Inferentia アクセラレーターから高速コンピューティングメトリクスを収集します。CloudWatch エージェントは、CloudWatch Observability EKS アドオンのバージョン v1.5.0-eksbuild.1
以降を使用してインストールする必要があります。アドオンの詳細については、「Amazon CloudWatch Observability EKS アドオンまたは Helm チャートを使用して CloudWatch エージェントをインストールする」を参照してください。AWS Trainium の詳細については、「AWS Trainium
Container Insights が AWS Neuron メトリクスを収集するには、次の前提条件を満たす必要があります。
Amazon EKS 向けにオブザーバビリティが強化された Container Insights を使用するには、Amazon CloudWatch Observability EKS アドオンバージョン
v1.5.0-eksbuild.1
以降を使用する必要があります。Neuron ドライバー
はクラスターのノードにインストールする必要があります。 Neuron デバイスプラグイン
はクラスターにインストールする必要があります。例えば、Amazon EKS-Optimized Accelerated AMI は、必要なコンポーネントで作成されています。
収集されるメトリクスは、このセクションにある表に一覧表示されています。AWS Trainium、AWS Inferentia、および AWS Inferentia2 のメトリクスが収集されます。
CloudWatch エージェントは Neuron Monitor
メトリクス名 | ディメンション | 説明 |
---|---|---|
|
|
コンテナに割り当てられた NeuronCore のキャプチャ期間中の NeuronCore 使用率。 単位: パーセント |
|
|
コンテナに割り当てられた NeuronCore によってトレーニング中に定数 (または推論中の重み) に使用されるデバイスメモリの量。 単位: バイト |
|
|
コンテナに割り当てられた NeuronCore によってモデルの実行コードに使用されるデバイスメモリの量。 単位: バイト |
|
|
コンテナに割り当てられた NeuronCore によってモデルの共有スクラッチパッドに使用されるデバイスメモリの量。このメモリ領域はモデル用に予約されています。 単位: バイト |
|
|
コンテナに割り当てられた NeuronCore によって Neuron ランタイムに使用されるデバイスメモリの量。 単位: バイト |
|
|
コンテナに割り当てられた NeuronCore によってテンソルに使用されるデバイスメモリの量。 単位: バイト |
|
|
コンテナに割り当てられた NeuronCore によって使用されるメモリの合計量。 単位: バイト |
|
|
ノード上の Neuron デバイスのオンチップ SRAM とデバイスメモリの修正済みおよび未修正 ECC イベントの数。 単位: 個 |
|
|
ポッドに割り当てられた NeuronCore のキャプチャ期間中の NeuronCore 使用率。 単位: パーセント |
|
|
ポッドに割り当てられた NeuronCore によってトレーニング中に定数 (または推論中の重み) に使用されるデバイスメモリの量。 単位: バイト |
|
|
ポッドに割り当てられた NeuronCore によってモデルの実行コードに使用されるデバイスメモリの量。 単位: バイト |
|
|
ポッドに割り当てられた NeuronCore によってモデルの共有スクラッチパッドに使用されるデバイスメモリの量。このメモリ領域はモデル用に予約されています。 単位: バイト |
|
|
ポッドに割り当てられた NeuronCore によって Neuron ランタイムに使用されるデバイスメモリの量。 単位: バイト |
|
|
ポッドに割り当てられた NeuronCore によってテンソルに使用されるデバイスメモリの量。 単位: バイト |
|
|
ポッドに割り当てられた NeuronCore によって使用されるメモリの合計量。 単位: バイト |
|
|
ポッドに割り当てられた Neuron デバイスのオンチップ SRAM とデバイスメモリの修正済みおよび未修正 ECC イベントの数。 単位: バイト |
|
|
ノードに割り当てられた NeuronCore のキャプチャ期間中の NeuronCore 使用率。 単位: パーセント |
|
|
ノードに割り当てられた NeuronCore によってトレーニング中に定数 (または推論中の重み) に使用されるデバイスメモリの量。 単位: バイト |
|
|
ノードに割り当てられた NeuronCore によってモデルの実行コードに使用されるデバイスメモリの量。 単位: バイト |
|
|
ノードに割り当てられた NeuronCore によってモデルの共有スクラッチパッドに使用されるデバイスメモリの量。これはモデル用に予約されているメモリ領域です。 単位: バイト |
|
|
ノードに割り当てられた NeuronCore によって Neuron ランタイムに使用されるデバイスメモリの量。 単位: バイト |
|
|
ノードに割り当てられた NeuronCore によってテンソルに使用されるデバイスメモリの量。 単位: バイト |
|
|
ノードに割り当てられた NeuronCore によって使用されるメモリの合計量。 単位: バイト |
|
|
ノード上の実行エラーの合計数。これは、CloudWatch エージェントで 単位: 個 |
|
|
ノード上の Neuron デバイスの合計メモリ使用量 (バイト)。 単位: バイト |
|
|
Neuron ランタイムによって測定されたノードでの実行のレイテンシー (秒)。 単位: 秒 |
|
|
ノード上の Neuron デバイスのオンチップ SRAM とデバイスメモリの修正済みおよび未修正 ECC イベントの数。 単位: 個 |
AWS Elastic Fabric Adapter (EFA) メトリクス
CloudWatch エージェントのバージョン 1.300037.0
以降、Amazon EKS 向けにオブザーバビリティが強化された Container Insights は Linux インスタンス上の Amazon EKS クラスターから AWS Elastic Fabric Adapter (EFA) メトリクスを収集します。CloudWatch エージェントは、CloudWatch Observability EKS アドオンのバージョン v1.5.2-eksbuild.1
以降を使用してインストールする必要があります。アドオンの詳細については、「Amazon CloudWatch Observability EKS アドオンまたは Helm チャートを使用して CloudWatch エージェントをインストールする」を参照してください。AWS Elastic Fabric Adapter の詳細については、「Elastic Fabric Adapter
Container Insights が AWS Elastic Fabric Adapter メトリクスを収集するには、次の前提条件を満たす必要があります。
Amazon EKS 向けにオブザーバビリティが強化された Container Insights を使用するには、Amazon CloudWatch Observability EKS アドオンバージョン
v1.5.2-eksbuild.1
以降を使用する必要があります。EFA デバイスプラグインはクラスターにインストールする必要があります。詳細については、GitHub の aws-efa-k8s-device-plugin
を参照してください。
収集されるメトリクスのリストを次の表に示します。
メトリクス名 | ディメンション | 説明 |
---|---|---|
|
|
コンテナに割り当てられた EFA デバイスによって受信された 1 秒あたりのバイト数。 単位: バイト/秒 |
|
|
コンテナに割り当てられた EFA デバイスによって送信された 1 秒あたりのバイト数。 単位: バイト/秒 |
|
|
コンテナに割り当てられた EFA デバイスによって受信され、ドロップされたパケットの数。 単位: カウント/秒 |
|
|
コンテナに割り当てられた EFA デバイスによって、リモートダイレクトメモリアクセスの読み取りオペレーションを使用して受信された 1 秒あたりのバイト数。 単位: バイト/秒 |
|
|
コンテナに割り当てられた EFA デバイスによって、リモートダイレクトメモリアクセスの読み取りオペレーションを使用して送信された 1 秒あたりのバイト数。 単位: バイト/秒 |
|
|
コンテナに割り当てられた EFA デバイスによって、リモートダイレクトメモリアクセスの書き込みオペレーションを使用して受信された 1 秒あたりのバイト数。 単位: バイト/秒 |
|
|
ポッドに割り当てられた EFA デバイスによって受信された 1 秒あたりのバイト数。 単位: バイト/秒 |
|
|
ポッドに割り当てられた EFA デバイスによって送信された 1 秒あたりのバイト数。 単位: バイト/秒 |
|
|
ポッドに割り当てられた EFA デバイスによって受信され、ドロップされたパケットの数。 単位: カウント/秒 |
|
|
ポッドに割り当てられた EFA デバイスによって、リモートダイレクトメモリアクセスの読み取りオペレーションを使用して受信された 1 秒あたりのバイト数。 単位: バイト/秒 |
|
|
ポッドに割り当てられた EFA デバイスによって、リモートダイレクトメモリアクセスの読み取りオペレーションを使用して送信された 1 秒あたりのバイト数。 単位: バイト/秒 |
|
|
ポッドに割り当てられた EFA デバイスによって、リモートダイレクトメモリアクセスの書き込みオペレーションを使用して受信された 1 秒あたりのバイト数。 単位: バイト/秒 |
|
|
ノードに割り当てられた EFA デバイスによって受信された 1 秒あたりのバイト数。 単位: バイト/秒 |
|
|
ノードに割り当てられた EFA デバイスによって送信された 1 秒あたりのバイト数。 単位: バイト/秒 |
|
|
ノードに割り当てられた EFA デバイスによって受信され、ドロップされたパケットの数。 単位: カウント/秒 |
|
|
ノードに割り当てられた EFA デバイスによって、リモートダイレクトメモリアクセスの読み取りオペレーションを使用して受信された 1 秒あたりのバイト数。 単位: バイト/秒 |
|
|
ポッドに割り当てられた EFA デバイスによって、リモートダイレクトメモリアクセスの読み取りオペレーションを使用して送信された 1 秒あたりのバイト数。 単位: バイト/秒 |
|
|
ノードに割り当てられた EFA デバイスによって、リモートダイレクトメモリアクセスの書き込みオペレーションを使用して受信された 1 秒あたりのバイト数。 単位: バイト/秒 |
Amazon SageMaker AI HyperPod メトリクス
CloudWatch Observability EKS アドオンのバージョン v2.0.1-eksbuild.1
以降、Amazon EKS 向けにオブザーバビリティが強化された Container Insights は、Amazon EKS クラスターから Amazon SageMaker AI HyperPod メトリクスを自動的に収集します。アドオンの詳細については、「Amazon CloudWatch Observability EKS アドオンまたは Helm チャートを使用して CloudWatch エージェントをインストールする」を参照してください。Amazon SageMaker AI HyperPod の詳細については、「Amazon SageMaker AI HyperPod」を参照してください。
収集されるメトリクスのリストを次の表に示します。
メトリクス名 | ディメンション | 説明 |
---|---|---|
|
|
ノードが Amazon SageMaker AI HyperPod によって 単位: 個 |
|
|
ノードが Amazon SageMaker AI HyperPod によって 単位: 個 |
|
|
ノードが HyperPod によって 自動ノード復旧が有効になっている場合、ノードは自動的に Amazon SageMaker AI HyperPod に置き換えられます。 単位: 個 |
|
|
ノードが Amazon SageMaker AI HyperPod によって 自動ノード復旧が有効になっている場合、ノードは Amazon SageMaker AI HyperPod によって自動的に再起動されます。 単位: 個 |