AgentCore 產生的執行時間可觀測性資料
AgentCore 提供的執行時間指標可讓您了解代理程式執行活動層級、處理延遲、資源使用率和錯誤率。AgentCore 還提供總調用和工作階段的彙總指標。
可觀測性執行時間指標
以下清單說明 AgentCore 提供的執行時間指標。執行期指標會以一分鐘的間隔批次處理。若要進一步了解如何檢視執行時間指標,請參閱檢視 Amazon Bedrock AgentCore 代理程式的可觀測性資料。
- 調用
-
顯示對資料平面 API 提出的請求總數。無論請求承載大小或回應狀態為何,每個 API 呼叫都會計為一個叫用。
- 調用 (彙總)
-
顯示所有資源的調用總數
- 限流
-
顯示服務因超過允許的 TPS (每秒交易數) 或配額限制而調節的請求數量。這些請求會使用 HTTP 狀態碼 429 傳回 ThrottlingException。監控此指標,以判斷您是否需要檢閱服務配額或最佳化請求模式。
- 系統錯誤
-
顯示 AgentCore 在請求處理期間遇到的伺服器端錯誤數量。高階伺服器端錯誤可能表示需要調查的潛在基礎結構或服務問題。如需可能的錯誤代碼清單,請參閱錯誤類型。
- 使用者錯誤
-
代表因請求無效而導致的用戶端錯誤數目。這些需要使用者動作才能解決。高階用戶端錯誤可能表示需要解決的請求格式或許可問題。如需可能的錯誤代碼清單,請參閱錯誤類型。
- 延遲
-
從接收請求到傳送最終回應字符所經過的總時間。代表請求的完整end-to-end處理時間。
- 總錯誤數
-
系統和使用者錯誤的總數。在 Amazon Bedrock AgentCore 主控台中,此指標會以調用總數的百分比顯示錯誤數量。
- 工作階段計數
-
顯示報告期間內建立的新客服人員工作階段數目。每個工作階段在建立時計算一次;對相同工作階段的後續調用不會增加此指標。這是累積計數器,而不是目前作用中工作階段的計量。可用於監控整體平台用量、趨勢工作階段建立率,以及了解使用者參與模式。
- 工作階段 (彙總)
-
顯示報告期間內跨所有資源建立的新工作階段總數。
- ActiveSessionCount
-
顯示您帳戶的目前作用中工作階段數量。與
SessionCount指標 (累積計數器) 不同,此指標是顯示任何指定時間執行多少工作階段的即時指標。Amazon Bedrock AgentCore 會在每個服務類型每分鐘發佈一次此指標。使用它來監控目前的容量使用率、設定意外使用量峰值的警示,以及了解工作階段配額消耗。使用Service維度 — 搭配值AgentCore.Runtime、AgentCore.CodeInterpreter或AgentCore.Browser— 依工作負載類型篩選此指標。Amazon Bedrock AgentCore 會將此指標直接發佈到AWS/Bedrock-AgentCore命名空間中的 AWS 帳戶。 - ActiveStreamingConnections
-
(僅限 WebSocket) 顯示每個代理程式目前作用中的 WebSocket 連線數量。監控此指標以了解連線用量,並偵測連線下降或峰值以進行容量規劃。唯一有意義的統計資料是 1 分鐘的總和。
- InboundStreamingBytesProcessed
-
(僅限 WebSocket) 顯示從用戶端接收到代理程式容器的 WebSocket 影格中成功處理的位元組總數。使用此指標來監控資料輸送量並識別使用模式。
- OutboundStreamingBytesProcessed
-
(僅限 WebSocket) 顯示從代理程式容器傳送至用戶端的 WebSocket 影格中成功處理的位元組總數。監控此指標以了解客服人員回應模式,並確保資料傳輸成功。
資源用量指標和日誌
Amazon Bedrock AgentCore 執行期提供全面的資源用量遙測,包括執行期資源的 CPU 和記憶體耗用指標。
注意
資源用量資料最多可延遲 60 分鐘,且精確度可能因指標而異。
已取代的指標
Amazon Bedrock AgentCore 執行期會自動提供帳戶、代理程式執行期和代理程式端點層級的資源用量指標。這些指標會以 1 分鐘解析度發佈。Amazon CloudWatch 彙總和指標資料保留將遵循標準 Amazon CloudWatch 資料保留政策。如需詳細資訊,請參閱 https://https://docs.aws.amazon.com/AmazonCloudWatch/latest/monitoring/cloudwatch_concepts.html#Metric。
以下是可用於監控 資源的維度集和指標:
| 名稱 | 維度 | 說明 |
|---|---|---|
|
CPUUsed-vCPUHours |
服務;服務、資源;服務、資源、名稱 |
vCPU-Hours 單位中消耗的虛擬 CPU 總量,可用於資源和帳戶層級。適用於資源追蹤和估計帳單可見性。 |
|
MemoryUsed-GBHours |
服務;服務、資源;服務、資源、名稱 |
以 GB-Hours 單位為單位耗用的記憶體總量,可用於資源和帳戶層級。適用於資源追蹤和估計帳單可見性。 |
維度說明
-
服務 - AgentCore.Runtime
-
資源 - 代理程式 Arn
-
名稱 - 客服人員端點名稱,格式為 AgentName::EndpointName
帳戶層級指標可在 Amazon CloudWatch Bedrock AgentCore 可觀測性主控台的執行期索引標籤下取得。儀表板會顯示從這些指標產生的記憶體和 CPU 用量圖表,代表您帳戶中所有客服人員在該區域內的總資源用量。
客服人員端點層級指標可在 Amazon CloudWatch Bedrock AgentCore 可觀測性主控台的 AgentEndpoint 頁面取得。儀表板會顯示從這些指標產生的記憶體和 CPU 用量圖表,代表指定代理程式端點調用之所有工作階段的總資源用量。
注意
提供遙測資料用於監控目的。實際計費是根據計量用量資料計算,並且可能因彙總時間、對帳程序和測量精確度而與遙測值不同。如需授權費用,請參閱您的 AWS 帳單。
付費日誌
Bedrock AgentCore 執行期以 1 秒的精細程度提供工作階段層級用量指標的附加日誌。每個日誌記錄都包含資源消耗資料,包括 CPU 用量 (agent.runtime.vcpu.hours.used) 和記憶體消耗 (agent.runtime.memory.gb_hours.used)。
每個日誌記錄都會有以下結構描述:
| 日誌類型 | 日誌欄位 | 說明 |
|---|---|---|
|
USAGE_LOGS |
event_timestamp, resource_arn, service.name, cloud.provider, cloud.region, account.id, region, resource.id, session.id, agent.name, elapsed_time_seconds, agent.runtime.vcpu.hours.used, agent.runtime.memory.gb_hours.used |
用於工作階段層級資源追蹤的資源用量日誌。 |
若要為您的代理程式啟用 USAGE_LOG 日誌類型,請參閱新增可觀測性到您的 Amazon Bedrock AgentCore 資源。然後,日誌會依設定顯示在設定的目的地 (AWS LogGroup、Amazon S3 或 Amazon Kinesis Firehose) 中。
在 Amazon CloudWatch Bedrock AgentCore 可觀測性主控台的客服人員工作階段頁面中,您可以查看從這些日誌產生的資源用量指標。若要最佳化指標檢視體驗,請使用右上角的選擇器選取所需的時間範圍,以專注於特定的 CPU 和記憶體用量資料。
注意
提供遙測資料用於監控目的。實際計費是根據計量用量資料計算,並且可能因彙總時間、對帳程序和測量精確度而與遙測值不同。如需授權費用,請參閱您的 AWS 帳單。
提供的跨度資料
為了增強可觀測性,AgentCore 提供結構化範圍,提供客服人員執行期調用的可見性。若要啟用此跨度資料,您需要在客服人員資源上啟用可觀測性。如需步驟和詳細資訊,請參閱將可觀測性新增至 Amazon Bedrock AgentCore 資源。此跨度資料可在 Amazon CloudWatch Logs 中取得。對於使用共用跨度目的地的客服人員,跨度會出現在客服人員的日誌群組 (/aws/bedrock-agentcore/runtimes/<agent_id>-<endpoint_name>) 或aws/spans日誌群組中。如需詳細資訊,請參閱 Amazon Bedrock AgentCore 執行時間中託管之代理程式的範圍目的地。下表定義建立範圍的操作,以及每個擷取範圍的屬性。
| 操作名稱 | 跨度屬性 | 說明 |
|---|---|---|
|
InvokeAgentRuntime |
aws.operation.name、aws.resource.arn、aws.request_id、aws.agent.id、aws.endpoint.name、aws.account.id session.id 、 latency_ms、rror_type、aws.resource.type、aws.xray.origin、aws.region |
叫用代理程式執行時間。 |
-
aws.operation.name - 操作名稱 (InvokeAgentRuntime)
-
aws.resource.arn - 代理程式執行時間的 Amazon 資源名稱
-
aws.request_id - 呼叫的請求 ID
-
aws.agent.id - 代理程式執行時間的唯一識別符
-
aws.endpoint.name - 用來叫用代理程式執行期的端點名稱
-
aws.account.id - 客戶的帳戶 ID
-
session.id - 調用的工作階段 ID
-
latency_ms - 請求的延遲,以毫秒為單位
-
error_type - 限流、系統或使用者 (只有在發生錯誤時才會出現)
-
aws.resource.type - CFN 資源類型
-
aws.xray.origin - x-ray 用來識別服務的 CFN 資源類型
-
aws.region - 客戶資源所在的區域
應用程式日誌資料
AgentCore 提供結構化應用程式日誌,協助您了解客服人員執行期調用和工作階段層級的資源耗用。在代理程式資源上啟用可觀測性時,會提供此日誌資料。如需步驟和詳細資訊,請參閱將可觀測性新增至 Amazon Bedrock AgentCore 資源。AgentCore 可以將日誌輸出到 CloudWatch Logs、Amazon S3 或 Firehose 串流。如果您使用 CloudWatch Logs 目的地,這些日誌會存放在代理程式的應用程式日誌下,或存放在您自己的自訂日誌群組下。
| 日誌類型 | 日誌欄位 | 說明 |
|---|---|---|
|
APPLICATION_LOGS |
時間戳記, resource_arn, event_timestamp, account_id, request_id, session_id, trace_id, span_id, service_name, operation, request_payload, response_payload |
具有追蹤欄位、請求和回應承載的 InvokeRuntimeOperation 應用程式日誌 |
-
request_payload - 代理程式調用的請求承載
-
response_payload - 來自客服人員調用的回應
錯誤類型
下列清單定義使用者、系統和限流錯誤的可能錯誤類型。
使用者錯誤代碼
-
InvocationError.Validation- 用戶端提供的輸入無效 (400) -
InvocationError.ResourceNotFound- 請求的資源不存在 (404) -
InvocationError.AccessDenied- 用戶端缺少許可 (403) -
InvocationError.Conflict- 資源衝突 (409)
系統錯誤代碼
-
InvocationError.Internal- 內部伺服器錯誤 (500)
調節錯誤代碼
-
InvocationError.Throttling- 速率限制 (429) -
InvocationError.ServiceQuota- 已達到服務端配額/限制 (402)