View a markdown version of this page

관찰성 및 비용 제어 - Amazon Bedrock AgentCore

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

관찰성 및 비용 제어

이 페이지에서는 하네스 모니터링, 실행 비용 제어, 리소스 태그 관리를 다룹니다.

관찰성

모든 하네스 호출은 CloudWatch의 AgentCore 관찰성을 통해 트레이스, 로그 및 지표를 자동으로 생성합니다. 모델 호출, 도구 호출, 메모리 작업, 쉘 명령: 각 단계는 타이밍 및 페이로드 세부 정보와 함께 표시됩니다. 추가 구성이 없습니다. 추적은 첫 번째 호출부터 사용할 수 있습니다.

트레이스, 로그 및 지표는 하네스 실행 역할을 통해 CloudWatch로 흐릅니다. AgentCore 관찰성 대시보드에서 보거나 CloudWatch Logs 및 X-Ray APIs.

추적이 표시되기 전에 CloudWatch에서 트랜잭션 검색을 활성화합니다(계정당 1회). 설정 세부 정보는 AgentCore 관찰성 시작하기를 참조하세요.

자세히 알아보기: 관찰성 개요 · 지표 · 원격 측정

CloudTrail

하네스 작업은 AWS CloudTrail에 관리 이벤트(컨트롤 플레인) 및 데이터 이벤트(데이터 플레인)로 기록됩니다. CloudTrail에서 하네스 리소스는 하네스별 유형이 아닌 AWS::BedrockAgentCore::Runtime 리소스 유형 아래에 나타납니다. Harness는 AgentCore 런타임에 대한 관리형 추상화이며, CloudTrail 이벤트는 일관성을 위해 기본 런타임 리소스를 반영합니다.

모든 하네스 CloudTrail 이벤트는 resources.type =를 사용합니다AWS::BedrockAgentCore::Runtime. 이벤트 이름은 다음과 같습니다.

  • CreateHarness, UpdateHarness, DeleteHarness, GetHarness, ListHarnesses (관리 이벤트)

  • InvokeAgentRuntime, InvokeAgentRuntimeCommand (데이터 이벤트)

참고

데이터 영역 작업은 기본 런타임 APIInvokeAgentRuntime와 일치하는 및 로 CloudTrailInvokeAgentRuntimeCommand에 표시됩니다. resources.ARN 필드에는 컨트롤 플레인 이벤트에 대한 하네스 ARN과 데이터 플레인 이벤트에 대한 런타임 ARN이 포함됩니다.

하네스 비용 이해

하네스 자체에는 추가 요금이 부과되지 않습니다. 하네스가 사용하는 기본 기능에 대해 표준 요금을 지불합니다. 현재 요금은 Amazon Bedrock AgentCore 요금 및 모델 공급자의 요금 페이지를 참조하세요.

다음 표에서는 하네스를 사용할 때 요금이 발생할 수 있는 기능에 대해 설명합니다.

기능 요금이 적용되는 경우 사용량을 결정하는 항목

AgentCore 런타임

AgentCore 런타임은 모든 하네스 세션에 대해 microVM을 시작합니다.

AgentCore 런타임은 시스템 오버헤드를 포함하여 microVM 시작부터 종료까지 매초 소비된 실제 CPU 및 피크 메모리에 대한 요금을 청구합니다. CPU를 사용하는 백그라운드 프로세스가 없는 경우 모델 또는 도구 I/O 대기 중에는 CPU 요금이 적용되지 않습니다. 세션이 실행되는 동안 메모리는 계속 청구할 수 있습니다.

모델 추론

모델 공급자는 에이전트가 구성된 모델을 호출할 때마다 요금을 청구합니다. 하나의 하네스 호출은 여러 모델 호출을 수행할 수 있습니다.

공급자는 입력 및 출력 토큰에서 요금을 계산합니다. 입력에는 시스템 프롬프트, 대화 기록, 검색된 메모리, 스킬 지침 및 허용된 도구에 대한 정의가 포함됩니다. 도구 정의 오버헤드는 섹션을 참조하세요도구.

AgentCore 메모리

AgentCore 메모리는 하네스가 이벤트를 작성하거나 레코드를 검색할 때 요금을 청구합니다. 관리형 메모리는 기본적으로 활성화되어 있으며 연결된 메모리에도 요금이 적용됩니다.

AgentCore 메모리는 새로운 단기 이벤트, 저장된 장기 메모리 레코드 및 장기 메모리 검색 요청을 측정합니다.

AgentCore 브라우저 및 코드 해석기

브라우저 및 코드 해석기는 에이전트가 이러한 구성된 도구를 사용할 때 요금을 청구합니다.

각 서비스는 세션의 활성 CPU 및 메모리 사용량을 측정합니다. 도구 정의는 에이전트가 호출하지 않더라도 허용되는 경우 모델 입력 토큰을 추가할 수 있습니다.

AgentCore 게이트웨이 및 웹 검색

게이트웨이는 하네스가 도구를 검색 또는 호출하거나 검색을 수행하거나 인덱싱된 도구를 사용할 때 요금을 청구합니다. 웹 검색은 하네스가 쿼리를 제출할 때 요금을 청구합니다.

Gateway는 해당하는 경우 API 작업, 검색 쿼리 및 인덱싱된 도구를 측정합니다. 웹 검색은 쿼리를 별도로 측정합니다.

관찰성

CloudWatch는 모든 간접 호출이 내보내는 트레이스, 로그 및 지표에 대해 요금을 청구합니다.

CloudWatch는 수집, 스토리지 및 쿼리 사용량을 측정합니다.

스토리지 및 네트워크

사용자 지정 컨테이너, 영구 파일 시스템 또는 데이터 전송을 사용하는 경우 스토리지 및 네트워크 서비스에 요금이 청구됩니다.

Amazon ECR은 이미지 스토리지를 측정합니다. Amazon S3 및 EFS는 리소스 사용량을 측정합니다. 네트워크 트래픽에는 표준 데이터 전송 속도가 적용됩니다.

예상 런타임 비용

런타임 결제는 프로비저닝된 인스턴스 시간이 아닌 초당 활성 소비를 사용합니다.

CPU cost = consumed vCPU-seconds / 3,600 * vCPU-hour rate Memory cost = sum of peak GB consumed in each second / 3,600 * GB-hour rate

월클럭 호출 또는 세션 지속 시간만으로 CPU 비용을 추정하지 마세요. 다른 프로세스에서 CPU를 사용하지 않는 경우 모델 및 도구 I/O 대기에는 CPU 요금이 발생하지 않습니다. 그러나 메모리 사용량은 계속 청구할 수 있습니다. 짧을수록 콜드 스타트 빈도가 높아지면서 마지막 호출 후에도 메모리가 청구 가능한 상태로 유지되는 기간을 줄일 idleRuntimeSessionTimeout 수 있습니다.

사용량 측정 및 속성

  • 모델 토큰 사용에 대한 호출 스트림의 metadata 이벤트를 읽습니다.

  • AgentCore 관찰성 추적, CloudWatch Logs 및 X-Ray APIs 사용하여 모델 호출, 도구 호출, 메모리 작업 및 기간을 식별합니다. 관찰성은 활동을 설명하지만 결제 보고서는 아닙니다.

  • 청구된 사용량에 대한 Use AWS Cost Explorer 또는 AWS 비용 및 사용 보고서. 하네스 태그를 비용 할당 태그로 활성화하여 지원되는 요금을 필터링합니다.

하네스 태그는 하네스용으로 생성된 관리형 런타임, 런타임 엔드포인트 및 관리형 메모리로 전파됩니다. 게이트웨이, EFS, S3 또는 bring-your-own 보유 메모리 사용 리소스와 같이 별도로 생성된 리소스에 독립적으로 태그를 지정합니다.

제한으로 비용 제어

런어웨이 에이전트가 리소스를 번스루하지 않도록 하드 캡을 설정합니다.

  • maxIterations - 호출당 추론/작업 주기. 기본값은 75입니다.

  • timeoutSeconds - 단일 간접 호출에 대한 벽시계 제한 시간입니다. 기본값은 3600입니다.

  • maxTokens - 호출당 토큰 예산입니다. 기본 해당 사항 없음.

  • idleRuntimeSessionTimeout - 유휴 microVM이 웜 상태를 유지하는 시간입니다. 기본값은 900입니다.

  • maxLifetime - microVM 세션의 최대 수명입니다. 기본값은 28800입니다.

모든 제한은 선택 사항이며 서비스 기본값을 사용하려면 생략합니다. 하네스는 AgentCore 런타임에서 지원하므로 하네스 호출에도 런타임 서비스 할당량이 적용됩니다. 자세한 내용은 AgentCore harness Service Quotas 및 AgentCore Runtime Service Quotas 참조하세요.

예
AWS CLI/boto3
aws bedrock-agentcore-control update-harness \ --harness-id "MyHarness-UuFdkQoXSL" \ --max-iterations 50 \ --timeout-seconds 1800 \ --max-tokens 8192

또는에서 maxIterations, timeoutSeconds또는를 전달하여 단일 호출maxTokens에 대해 재정의합니다invoke_harness.

AgentCore CLI

기본값 설정:

agentcore add harness --name bounded-agent \ --max-iterations 50 --timeout 1800 --max-tokens 8192 \ --truncation-strategy sliding_window \ --idle-timeout 600 --max-lifetime 14400 agentcore deploy

--truncation-strategy 플래그는 sliding_window 또는를 허용합니다summarization. --idle-timeout 및 --max-lifetime 플래그는 수명 주기 제한을 초 단위로 설정합니다.

단일 호출에서 재정의:

agentcore invoke --harness bounded-agent --max-iterations 20 --harness-timeout 600 \ "Quick lookup: what's the weather in Seattle?"

Tags

비용 할당 및 액세스 제어를 위해 하네스에 태그를 적용합니다.

예
AWS CLI/boto3
aws bedrock-agentcore-control create-harness \ --harness-name "MyHarness" \ --execution-role-arn "arn:aws:iam::123456789012:role/MyHarnessRole" \ --tags '{"team": "platform", "environment": "staging"}'
AgentCore CLI

에서 태그 설정harness.json:

{ "tags": { "team": "platform", "environment": "staging" } }

를 실행agentcore deploy하여 적용합니다.

하네스 태그는 하네스용으로 생성된 관리형 런타임, 런타임 엔드포인트 및 관리형 메모리로 전파됩니다. 별도로 생성된 리소스는 자체 태그를 유지합니다.