本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
使用 Amazon 監控 Kinesis 生產者庫 CloudWatch
適用於 Amazon Kinesis 資料串流的 Kinesis 生產者程式庫 (KPL) 會代表您發佈自訂的 Amazon CloudWatch 指標。您可以瀏覽至CloudWatch 主控台
KPL 上傳到的指標需支付象徵性費 CloudWatch 用;特別是,Amazon CloudWatch 自訂指標和 Amazon CloudWatch API 請求會收取費用。如需詳細資訊,請參閱 Amazon CloudWatch 定價
指標、維度與命名空間
啟動 KPL 時您可以指定應用程式名稱,然後在上傳指標時使用它做為命名空間的一部分。這是選用的;如果未設定應用程式名稱,KPL 會提供預設值。
您也可以設定 KPL 以將任意的其他維度新增到指標。如果您希望在指標中使用更精細的 CloudWatch 資料,此功能非常有用。例如,您可以將主機名稱新增為維度,即可讓您識別機群中不平均的負載分配。所有 KPL 組態設定是不變的,因此在初始化 KPL 執行個體之後,您無法變更這些額外的維度。
指標層級和精細程度
有兩個選項可控制上傳至的量度數目 CloudWatch:
- 指標層級
-
這是指標重要性的約略判斷方法。每個指標會獲指派層級。設定層次時,層級低於的量度不會傳送至 CloudWatch。層級為
NONE
、SUMMARY
和DETAILED
。預設設定為DETAILED
;也就是說,所有指標NONE
表示完全不須指標,因此不會將任何指標指派至該層級。 - 精細程度
-
此選項可控制是否以額外的精細程度層級發出相同的指標。層級為
GLOBAL
、STREAM
和SHARD
。預設設定為SHARD
,其包含最精細的指標。選擇
SHARD
時,會以串流名稱和碎片 ID 做為維度發出指標。此外,也會僅以串流名稱維度,以及沒有串流名稱的指標發出相同的指標。這表示,對於特定量度,兩個具有兩個碎片的串流會產生七個 CloudWatch 度量:每個分片各一個量度,每個串流一個,一個整體;所有資料都描述相同的統計資料,但精細度層級不同。如需圖解,請參閱以下圖表。不同精細程度層級形成階層,而系統中的所有指標形成樹狀目錄,根目錄為指標名稱:
MetricName (GLOBAL): Metric X Metric Y | | ----------------- ------------ | | | | StreamName (STREAM): Stream A Stream B Stream A Stream B | | -------- --------- | | | | ShardID (SHARD): Shard 0 Shard 1 Shard 0 Shard 1
並非所有指標都可在碎片層級取得;而部分指標的本質為串流層級或全域。即使您已啟用碎片層級指標 (前述圖表中的
Metric Y
),也不會在碎片層級產生這些指標。指定額外的維度時,您需要提供
tuple:<DimensionName, DimensionValue, Granularity>
的值。精細程序用來決定在階層中插入自訂維度的位置:GLOBAL
表示在指標名稱後插入額外的維度,STREAM
表示在串流名稱之後插入,和SHARD
表示在碎片 ID 之後插入。如果為每個精細程序層級提供多個額外的維度,則會以指定的順序插入。
本地訪問和 Amazon CloudWatch 上傳
目前 KPL 執行個體的指標可即時在本機取得;您可以隨時查詢 KPL 來取得這些指標。KPL 會在本機計算每個量度的總和、平均值、最小值、最大值和計數,如中所示。 CloudWatch
您可以取得從計畫開始累計到目前時間點的統計資料,或使用過去 N 秒的滾動時段,其中 N 為 1 到 60 之間的整數。
所有量度都可以上傳到 CloudWatch。這非常適合用於彙總跨多個主機、監控和警示的資料。此功能無法在本機使用。
如前所述,您可以選取要使用指標層級和精細程度設定來上傳的指標。未上傳的指標可在本機取得。
個別上傳資料點不可行,因為如果流量很高,它可能產生每秒數百萬個上傳。基於這個原因,KPL 會將量度彙總到 1 分鐘儲存貯體中,並將統計資料物件上傳到每分鐘 CloudWatch 一次,每個已啟用的量度。
指標的清單
指標 | 描述 |
---|---|
UserRecordsReceived |
KPL 核心針對 put 操作所收到多少個邏輯使用者記錄的計數。碎片層級不適用。 指標層級:詳細 單位:計數 |
UserRecordsPending |
目前待處理的有多少個使用者記錄的定期取樣。如果目前記錄已緩衝並等候傳送,或是已傳送並在前往後端服務的途中,則為待處理。碎片層級不適用。 KPL 提供一個專用的方法,可在全域層級擷取此指標,讓客戶管理其 put 速率。 指標層級:詳細 單位:計數 |
UserRecordsPut |
已成功 put 多少個邏輯使用者記錄的計數。 KPL 不會將此指標的失敗記錄計入。這可讓平均提供成功率,讓計數提供嘗試總計,以及讓計數與總和之間的差異提供失敗計數。 指標層級:摘要 單位:計數 |
UserRecordsDataPut |
邏輯使用者記錄中成功 put 的位元組數。 指標層級:詳細 單位:位元組 |
KinesisRecordsPut |
成功 put 的 Kinesis Data Streams 記錄的計數 (每個 Kinesis Data Streams 記錄可能包含多個使用者記錄)。 KPL 會對失敗的記錄輸出零。這可讓平均提供成功率,讓計數提供嘗試總計,以及讓計數與總和之間的差異提供失敗計數。 指標層級:摘要 單位:計數 |
KinesisRecordsDataPut |
Kinesis Data Streams 記錄中的位元組。 指標層級:詳細 單位:位元組 |
ErrorsByCode |
每個錯誤碼類型的計數。這會在一般維度 (例如 Kinesis Data Streams API 錯誤會在每筆 Kinesis Data Streams 記錄中計算一次。Kinesis Data Streams 記錄內的多個使用者記錄不會產生多個計數。 指標層級:摘要 單位:計數 |
AllErrors |
這是由與依程式碼的錯誤之相同錯誤所觸發,但不會區分類型。這很實用,因為錯誤率的一般監控不需要來自所有不同錯誤類型計數的手動總和。 指標層級:摘要 單位:計數 |
RetriesPerRecord |
每個使用者記錄執行的重試次數。對一次嘗試便成功的記錄會發出零。 資料會在使用者記錄完成 (可能是成功或可能不再可重試) 時發出。如果記錄值 time-to-live 較大,則此量度可能會大幅延遲。 指標層級:詳細 單位:計數 |
BufferingTime |
使用者記錄抵達 KPL 和前往後端之間的時間。會依每個記錄為基礎將此資訊傳輸回使用者,但也會提供做為彙總的統計資料。 指標層級:摘要 單位:毫秒 |
Request Time |
執行 指標層級:詳細 單位:毫秒 |
User Records per Kinesis Record |
彙總至單一 Kinesis Data Streams 記錄的邏輯使用者記錄數量。 指標層級:詳細 單位:計數 |
Amazon Kinesis Records per
PutRecordsRequest |
彙總至單一 指標層級:詳細 單位:計數 |
User Records per
PutRecordsRequest |
指標層級:詳細 單位:計數 |