了解 AgentCore 中代理程式資源的可觀測性
本節定義工作階段、追蹤和跨度的概念,因為它們與客服人員的監控和可觀測性相關。
工作階段
工作階段代表使用者與客服人員之間的完整互動內容。工作階段會封裝整個對話或互動流程,維護多個交換的狀態和內容。每個工作階段都有唯一的識別符,並擷取使用者與客服人員互動的完整生命週期,從初始化到終止。
工作階段為客服人員提供下列功能:
-
同一對話中跨多個互動的內容持續性
-
維護使用者特定資訊的狀態管理
-
對話歷史記錄追蹤以進行情境理解
-
互動期間的資源分配和管理
-
不同使用者與相同客服人員互動之間的隔離
從可觀測性的觀點來看,工作階段提供使用者互動模式的高階檢視,可讓您監控跨指標、追蹤和範圍的客服人員效能,並了解使用者如何隨著時間和不同使用案例與客服人員互動。
根據預設,AgentCore 會在工作階段層級為在 AgentCore 執行時間中執行的代理程式提供一組可觀測性指標。您可以在生成式 AI 可觀測性頁面上的 Amazon CloudWatch 主控台中檢視執行時間指標。此頁面提供各種圖形和視覺化效果,協助您解譯客服人員的資料。AgentCore 也會針對記憶體資源、閘道資源和內建工具輸出一組預設指標。您可以在 CloudWatch 中檢視所有這些指標。除了提供的指標之外,預設還會為記憶體資源提供日誌和範圍,而且透過檢測代理程式程式碼,您可以擷取代理程式的自訂指標、日誌和範圍,也可以在 CloudWatch 生成式 AI 可觀測性頁面上檢視。如需進一步了解,請參閱下列各節和檢視 Amazon Bedrock AgentCore 代理程式的可觀測性資料。
追蹤
追蹤代表從 開始的單一請求回應週期的詳細記錄,其中包含對其他客服人員的額外呼叫。追蹤會擷取請求的完整執行路徑,包括所有內部處理步驟、外部服務呼叫、決策點和資源使用率。每個追蹤都與特定工作階段相關聯,並針對特定互動提供客服人員行為的精細可見性。
追蹤包含下列客服人員元件:
-
請求詳細資訊,包括時間戳記、輸入參數和內容
-
顯示所執行操作順序的處理步驟
-
具有輸入/輸出參數和執行時間的工具調用
-
資源使用率指標,例如處理時間
-
錯誤資訊,包括例外狀況詳細資訊和復原嘗試
-
回應產生詳細資訊和最終輸出
從可觀測性的觀點來看,追蹤可讓您深入了解客服人員的內部工作,讓您疑難排解問題、最佳化效能,以及了解行為模式。透過分析追蹤資料,您可以識別瓶頸、偵測異常情況,並確認您的代理程式在不同案例和輸入中如預期般運作。
若要收集追蹤資料,您需要使用 AWS Distro for Open Telemetry (ADOT) 來檢測代理程式程式碼。請參閱啟用 AgentCore 託管代理程式的代理程式程式碼中的可觀測性和啟用 AgentCore 外部託管代理程式的可觀測性,以進一步了解。
範圍
跨度代表代理程式執行流程中分散且可測量的工作單位。跨度會擷取請求處理期間發生的精細操作,提供組成完整追蹤的內部元件和步驟的詳細可見性。每個跨度都有定義的開始和結束時間,建立客服人員活動的精確時間表及其持續時間。
範圍包括下列代理程式可觀測性的基本屬性:
-
識別正在執行之特定函數或程序的操作名稱
-
標記操作確切開始和結束時間的時間戳記
-
父子關係顯示操作如何在較大的程序中巢狀化
-
提供操作相關內容中繼資料的標籤和屬性
-
標示跨度生命週期內重大事件發生的事件
-
狀態資訊指出成功、失敗或其他完成狀態
-
操作特定的資源使用率指標
範圍在追蹤中形成階層結構,父系範圍包含代表更精細操作的子範圍。例如,高階「處理使用者查詢」範圍可能包含「剖析輸入」、「擷取內容」、「產生回應」和「格式化輸出」的子範圍。此階層式組織會建立詳細的執行樹狀結構,顯示代理程式內的完整操作流程。
根據預設,AgentCore 只會針對記憶體資源輸出一組跨度資料。您可以在 CloudWatch Logs 和 CloudWatch Application 訊號中檢視此資料。若要記錄客服人員或閘道資源的範圍資料,您需要檢測客服人員。請參閱啟用 AgentCore 託管代理程式的代理程式程式碼中的可觀測性和啟用 AgentCore 外部託管代理程式的可觀測性,以進一步了解。
工作階段、追蹤和跨度之間的關係
工作階段、追蹤和跨度會在客服人員的可觀測性架構中形成三層階層關係。工作階段包含多個追蹤,每個追蹤代表工作階段更廣泛的內容中的離散互動。每個追蹤都會包含多個範圍,可擷取該互動中的精細操作和步驟。此階層結構可讓您分析不同層級的客服人員行為,從高階工作階段模式到中階互動流程,再到特定操作的詳細執行路徑。
這三個可觀測性元件之間的關係可以視覺化為:
-
工作階段 (最高層級) - 代表完整的使用者對話或互動內容
-
追蹤 (中間層級) - 代表工作階段中的個別請求-回應週期
-
跨度 (最低層級) - 代表追蹤中的特定操作或步驟
此多層關係可啟用數個重要的可觀測性功能:
-
在其更廣泛的對話流程中個別互動的內容分析
-
使用者互動旅程中相關請求的關聯性
-
從工作階段層級異常到追蹤層級模式到跨層級根本原因的漸進式疑難排解
-
跨不同時間與功能維度的全方位效能分析
-
全面了解客服人員行為模式和整個對話的演變
-
透過跨度分析,精確識別操作層級的效能瓶頸
雖然追蹤可提供完整請求回應週期的可見性,但 範圍可提供這些週期內部工作的更深入洞見。範圍會確切顯示哪些操作耗用最多的時間、錯誤來源,以及不同的元件如何在單一追蹤中互動。在疑難排解複雜問題或在複雜的代理程式實作中最佳化效能時,此精細程度特別重要。
透過在可觀測性策略中利用工作階段、追蹤和跨度資料,您可以在多個細節層級獲得客服人員行為、效能和有效性的完整洞見。這種可觀測性的多層方法支援持續改進、強大的故障診斷和客服人員實作的明智最佳化,從高階對話模式到個別操作效能。