View a markdown version of this page

可觀測性和成本控制 - Amazon Bedrock AgentCore
可觀測性CloudTrail了解輸送成本使用限制控制成本Tags (標籤)

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

可觀測性和成本控制

此頁面涵蓋監控您的設備、控制執行成本和管理資源標籤。

可觀測性

每個工具叫用都會透過 CloudWatch 中的 AgentCore 可觀測性自動產生追蹤、日誌和指標。模型呼叫、工具叫用、記憶體操作、 shell 命令：每個步驟都會顯示時間和承載詳細資訊。沒有額外的組態。追蹤可從第一次調用取得。

追蹤、日誌和指標會透過繫帶執行角色流向 CloudWatch。在 AgentCore 可觀測性儀表板中檢視它們，或透過 CloudWatch Logs 和 X-Ray APIs 以程式設計方式進行查詢。

在看到追蹤之前，請在 CloudWatch 中啟用交易搜尋 （每個帳戶一次）。如需設定詳細資訊，請參閱 AgentCore 可觀測性入門。

進一步了解：可觀測性概觀 · 指標 · 遙測

CloudTrail

繫結操作會記錄為管理事件 （控制平面） 和資料事件 （資料平面） 的 AWS CloudTrail。在 CloudTrail 中，集合資源會出現在AWS::BedrockAgentCore::Runtime資源類型下，而不是集合特定類型。Harness 是 AgentCore 執行期的受管抽象，CloudTrail 事件會反映基礎執行期資源以確保一致性。

所有 CloudTrail 事件都使用 resources.type = AWS::BedrockAgentCore::Runtime。事件名稱為：

  • CreateHarness、UpdateHarness、DeleteHarness、GetHarness、 ListHarnesses（管理事件）

  • InvokeAgentRuntime、 InvokeAgentRuntimeCommand（資料事件）

注意

資料平面操作在 CloudTrail InvokeAgentRuntimeCommand中顯示為 InvokeAgentRuntime和 ，符合基礎執行期 API。resources.ARN 欄位包含控制平面事件的固定 ARN 和資料平面事件的執行期 ARN。

了解輸送成本

繫帶本身不收取額外費用。您為繫帶使用的基礎功能支付標準費率。如需目前費率，請參閱 Amazon Bedrock AgentCore 定價和模型供應商的定價頁面。

下表說明使用 繫帶時可能會產生費用的功能。

功能 收費時 決定用量的因素

AgentCore 執行期

AgentCore 執行期會為每個繫帶工作階段啟動microVM。

AgentCore 執行期針對實際消耗的 CPU 和每秒消耗的峰值記憶體計費，包括系統額外負荷。 microVM 如果沒有背景程序使用 CPU，則在模型或工具 I/O 等待期間不會收取 CPU 費用。工作階段執行時，記憶體仍會計費。

模型推論

每次客服人員呼叫設定的模型時，模型提供者都會計費。一個繫帶調用可以進行多個模型呼叫。

供應商會從輸入和輸出字符計算費用。輸入包括允許工具的系統提示、對話歷史記錄、擷取的記憶體、技能指示和定義。如需工具定義額外負荷，請參閱 工具。

AgentCore 記憶體

繫帶寫入事件或擷取記錄時，AgentCore 記憶體會計費。受管記憶體預設為啟用；費用也會套用至連接的記憶體。

AgentCore Memory 會測量新的短期事件、儲存的長期記憶體記錄，以及長期記憶體擷取請求。

AgentCore 瀏覽器和程式碼解譯器

當代理程式使用這些設定的工具時，瀏覽器和程式碼解譯器帳單。

每個服務都會測量其工作階段的作用中 CPU 和記憶體耗用量。即使客服人員未呼叫模型輸入字符，他們的工具定義仍然可以在允許的情況下新增模型輸入字符。

AgentCore Gateway 和 Web 搜尋

當繫帶探索或叫用工具、執行搜尋或使用索引工具時，閘道會計費。Web 搜尋會在繫帶提交查詢時計費。

適用時，Gateway 會測量 API 操作、搜尋查詢和索引工具。Web Search 會分別測量其查詢。

可觀測性

每個調用發出的追蹤、日誌和指標的 CloudWatch 帳單。

CloudWatch 計量擷取、儲存和查詢用量。

儲存和網路

當您使用自訂容器、持久性檔案系統或資料傳輸時，儲存和網路服務會計費。

Amazon ECR 計量影像儲存。Amazon S3 和 EFS 計量表資源用量。標準資料傳輸率適用於網路流量。

預估執行期成本

執行期計費使用每秒作用中耗用量，而不是佈建的執行個體時間：

CPU cost = consumed vCPU-seconds / 3,600 * vCPU-hour rate
Memory cost = sum of peak GB consumed in each second / 3,600 * GB-hour rate

請勿僅預估從牆上時鐘調用或工作階段持續時間的 CPU 成本。當沒有其他程序使用 CPU 時，模型和工具 I/O 等待不會產生 CPU 費用。不過，記憶體使用量仍應計費。較短的 idleRuntimeSessionTimeout可以減少上次調用後記憶體保持計費的時間，而成本為更頻繁的冷啟動。

測量和屬性用量

  • 讀取調用串流中用於模型字符用量metadata的事件。

  • 使用 AgentCore 可觀測性追蹤、CloudWatch Logs 和 X-Ray APIs 來識別模型呼叫、工具呼叫、記憶體操作及其持續時間。可觀測性說明活動，但不是帳單報告。

  • 針對計費用量使用 AWS Cost Explorer 或 AWS 成本和用量報告。啟用您的繫帶標籤做為成本分配標籤，以篩選支援的費用。

繫結標籤會傳播到為繫結建立的受管執行期、執行期端點和受管記憶體。標記個別建立的資源，例如 Gateway、EFS、S3 或bring-your-own記憶體資源。

使用限制控制成本

設定硬蓋，讓失控代理程式無法穿透資源：

  • maxIterations - 每次調用的推理/動作週期。預設 75。

  • timeoutSeconds - 單一調用的牆壁時鐘逾時。預設 3600。

  • maxTokens - 每次呼叫的字符預算。預設不適用。

  • idleRuntimeSessionTimeout - 閒置microVM保持暖機的時間長度。預設 900。

  • maxLifetime - microVM 工作階段的最長存留期。預設 28800。

所有限制都是選用的；請省略它們以使用服務預設值。由於繫帶由 AgentCore Runtime 支援，因此繫帶調用也會受到 Runtime 服務配額的限制。如需詳細資訊，請參閱 AgentCore harness Service Quotas 和 AgentCore Runtime Service Quotas。

範例
AWS CLI/boto3
aws bedrock-agentcore-control update-harness \
  --harness-id "MyHarness-UuFdkQoXSL" \
  --max-iterations 50 \
  --timeout-seconds 1800 \
  --max-tokens 8192

或在 maxTokens中傳遞 maxIterations、 timeoutSeconds或 來覆寫單一調用invoke_harness。

AgentCore CLI

設定預設值：

agentcore add harness --name bounded-agent \
  --max-iterations 50 --timeout 1800 --max-tokens 8192 \
  --truncation-strategy sliding_window \
  --idle-timeout 600 --max-lifetime 14400
agentcore deploy

--truncation-strategy 旗標接受 sliding_window或 summarization。--idle-timeout 和 --max-lifetime旗標會以秒為單位設定生命週期限制。

在單一呼叫上覆寫：

agentcore invoke --harness bounded-agent --max-iterations 20 --harness-timeout 600 \
  "Quick lookup: what's the weather in Seattle?"

Tags (標籤)

將標籤套用至您的設備，以進行成本分配和存取控制。

範例
AWS CLI/boto3
aws bedrock-agentcore-control create-harness \
  --harness-name "MyHarness" \
  --execution-role-arn "arn:aws:iam::123456789012:role/MyHarnessRole" \
  --tags '{"team": "platform", "environment": "staging"}'
AgentCore CLI

在 中設定標籤harness.json：

{
  "tags": {
    "team": "platform",
    "environment": "staging"
  }
}

執行 agentcore deploy以套用。

繫結標籤會傳播到為繫結建立的受管執行期、執行期端點和受管記憶體。單獨建立的資源會保留自己的標籤。

相關主題