AgentCore에서 생성한 런타임 관찰성 데이터
AgentCore에서 제공하는 런타임 지표를 통해 에이전트 실행 활동 수준, 처리 지연 시간, 리소스 사용률 및 오류율을 파악할 수 있습니다. 또한 AgentCore는 총 호출 및 세션에 대한 집계 지표를 제공합니다.
관찰성 런타임 지표
다음 목록은 AgentCore에서 제공하는 런타임 지표를 설명합니다. 런타임 지표는 1분 간격으로 일괄 처리됩니다. 런타임 지표 보기에 대한 자세한 내용은 Amazon Bedrock AgentCore 에이전트의 관찰성 데이터 보기를 참조하세요.
- Invocations
-
데이터 영역 API에 대한 총 요청 수를 표시합니다. 각 API 호출은 요청 페이로드 크기 또는 응답 상태에 관계없이 하나의 호출로 계산됩니다.
- 호출(집계됨)
-
모든 리소스의 총 간접 호출 수를 표시합니다.
- 제한
-
허용된 TPS(초당 트랜잭션 수) 또는 할당량 제한을 초과하여 서비스에 의해 제한된 요청 수를 표시합니다. 이러한 요청은 HTTP 상태 코드 429와 함께 ThrottlingException을 반환합니다. 이 지표를 모니터링하여 서비스 할당량을 검토하거나 요청 패턴을 최적화해야 하는지 확인합니다.
- 시스템 오류
-
요청 처리 중에 AgentCore에서 발생한 서버 측 오류 수를 표시합니다. 높은 수준의 서버 측 오류에서는 조사가 필요한 잠재적 인프라 또는 서비스 문제를 나타낼 수 있습니다. 가능한 오류 코드 목록은 오류 유형을 참조하세요.
- 사용자 오류
-
잘못된 요청으로 인한 클라이언트 측 오류 수를 나타냅니다. 이를 해결하려면 사용자 작업이 필요합니다. 높은 수준의 클라이언트 측 오류는 처리해야 하는 요청 형식 또는 권한 문제를 나타낼 수 있습니다. 가능한 오류 코드 목록은 오류 유형을 참조하세요.
- Latency
-
요청 수신과 최종 응답 토큰 전송 사이에 경과된 총 시간입니다. 요청의 전체 end-to-end 처리 시간을 나타냅니다.
- 총 오류
-
시스템 및 사용자 오류의 총 수입니다. Amazon Bedrock AgentCore 콘솔에서이 지표는 오류 수를 총 호출 수의 백분율로 표시합니다.
- 세션 수
-
보고 기간 내에 생성된 새 에이전트 세션 수를 표시합니다. 각 세션은 생성 시 한 번만 계산됩니다. 동일한 세션에 대한 후속 호출은이 지표를 증가시키지 않습니다. 현재 활성 세션의 게이지가 아닌 누적 카운터입니다. 전체 플랫폼 사용량을 모니터링하고, 세션 생성률을 추세화하고, 사용자 참여 패턴을 이해하는 데 유용합니다.
- 세션(집계됨)
-
보고 기간 내에 모든 리소스에서 생성된 총 새 세션 수를 표시합니다.
- ActiveSessionCount
-
계정에 대한 현재 활성 세션 수를 표시합니다.
SessionCount지표(누적 카운터)와 달리이 지표는 특정 순간에 실행 중인 세션 수를 보여주는 실시간 게이지입니다. Amazon Bedrock AgentCore는 서비스 유형별로 분당 한 번씩이 지표를 게시합니다. 이를 사용하여 현재 용량 사용률을 모니터링하고, 예상치 못한 사용량 스파이크에 대한 경보를 설정하고, 세션 할당량 소비를 파악할 수 있습니다. 값이AgentCore.Runtime,AgentCore.CodeInterpreter또는 인Service차원을 사용하여 워크로드 유형별로이 지표AgentCore.Browser를 필터링합니다. Amazon Bedrock AgentCore는이 지표를AWS/Bedrock-AgentCore네임스페이스의 AWS 계정에 직접 게시합니다. - ActiveStreamingConnections
-
(WebSocket만 해당) 에이전트당 현재 활성 WebSocket 연결 수를 표시합니다. 이 지표를 모니터링하여 연결 사용량을 파악하고 용량 계획을 위한 연결 저하 또는 급증을 감지합니다. 유일하게 의미 있는 통계는 1분 합계입니다.
- InboundStreamingBytesProcessed
-
(WebSocket만 해당) 클라이언트에서 에이전트 컨테이너로 수신한 WebSocket 프레임에서 성공적으로 처리된 총 바이트 수를 표시합니다. 이 지표를 사용하여 데이터 처리량을 모니터링하고 사용 패턴을 식별할 수 있습니다.
- OutboundStreamingBytesProcessed
-
(WebSocket만 해당) 에이전트 컨테이너에서 클라이언트로 전송된 WebSocket 프레임에서 성공적으로 처리된 총 바이트 수를 표시합니다. 이 지표를 모니터링하여 에이전트 응답 패턴을 이해하고 성공적인 데이터 전송을 보장합니다.
리소스 사용량 지표 및 로그
Amazon Bedrock AgentCore 런타임은 런타임 리소스에 대한 CPU 및 메모리 소비 지표를 포함하여 포괄적인 리소스 사용량 원격 측정을 제공합니다.
참고
리소스 사용 데이터는 최대 60분 지연될 수 있으며 지표마다 정밀도가 다를 수 있습니다.
판매 지표
Amazon Bedrock AgentCore 런타임은 계정, 에이전트 런타임 및 에이전트 엔드포인트 수준에서 리소스 사용량 지표를 자동으로 제공합니다. 이러한 지표는 1분 해상도로 게시됩니다. Amazon CloudWatch 집계 및 지표 데이터 보존은 표준 Amazon CloudWatch 데이터 보존 정책을 따릅니다. 자세한 내용은 https://docs.aws.amazon.com/AmazonCloudWatch/latest/monitoring/cloudwatch_concepts.html#Metric 참조하십시오.
다음은 리소스를 모니터링하는 데 사용할 수 있는 차원 세트 및 지표입니다.
| 이름 | 측정 기준 | 설명 |
|---|---|---|
|
CPUUsed-vCPUHours |
서비스, 서비스, 리소스, 서비스, 리소스, 이름 |
리소스 및 계정 수준에서 사용할 수 있는 vCPU-시간 단위의 총 가상 CPU 사용량입니다. 리소스 추적 및 예상 결제 가시성에 유용합니다. |
|
MemoryUsed-GBHours |
서비스, 서비스, 리소스, 서비스, 리소스, 이름 |
리소스 및 계정 수준에서 사용할 수 있는 GB-시간 단위로 사용된 총 메모리 양입니다. 리소스 추적 및 예상 결제 가시성에 유용합니다. |
차원 설명
-
서비스 - AgentCore.Runtime
-
리소스 - 에이전트 Arn
-
이름 - AgentName::EndpointName 형식의 AgentName 엔드포인트 이름
계정 수준 지표는 Amazon CloudWatch Bedrock AgentCore 관찰성 콘솔의 런타임 탭에서 사용할 수 있습니다. 대시보드에는 이러한 지표에서 생성된 메모리 및 CPU 사용량 그래프가 표시되며, 이는 리전 내 계정의 모든 에이전트에 대한 총 리소스 사용량을 나타냅니다.
에이전트 엔드포인트 수준 지표는 Amazon CloudWatch Bedrock AgentCore 관찰성 콘솔의 AgentEndpoint AgentEndpoint 페이지에서 사용할 수 있습니다. 대시보드에는 이러한 지표에서 생성된 메모리 및 CPU 사용량 그래프가 표시되며, 이는 지정된 에이전트 엔드포인트에서 호출한 모든 세션의 총 리소스 사용량을 나타냅니다.
참고
원격 측정 데이터는 모니터링 목적으로 제공됩니다. 실제 결제는 측정된 사용량 데이터를 기반으로 계산되며 집계 타이밍, 조정 프로세스 및 측정 정밀도로 인해 원격 측정 값과 다를 수 있습니다. 신뢰할 수 있는 요금은 AWS 결제 명세서를 참조하세요.
벤딩 로그
Bedrock AgentCore 런타임은 세션 수준 사용량 지표에 대한 판매 로그를 1초 단위로 제공합니다. 각 로그 레코드에는 CPU 사용량(agent.runtime.vcpu.hours.used) 및 메모리 사용량(agent.runtime.memory.gb_hours.used)을 포함한 리소스 소비 데이터가 포함됩니다.
각 로그 레코드에는 다음과 같은 스키마가 있습니다.
| 로그 유형 | 로그 필드 | 설명 |
|---|---|---|
|
USAGE_LOGS |
event_timestamp, resource_arn, service.name, cloud.provider, cloud.region, account.id, region, resource.id, session.id, agent.name, elapsed_time_seconds, agent.runtime.vcpu.hours.used, agent.runtime.memory.gb_hours.used |
세션 수준 리소스 추적을 위한 리소스 사용 로그입니다. |
에이전트에 대해 USAGE_LOG 로그 유형을 활성화하려면 Amazon Bedrock AgentCore 리소스에 관찰성 추가를 참조하세요. 그러면 로그가 구성된 대상(AWS LogGroup, Amazon S3 또는 Amazon Kinesis Firehose)에 구성된 대로 표시됩니다.
Amazon CloudWatch Bedrock AgentCore 관찰성 콘솔의 에이전트 세션 페이지에서 이러한 로그에서 생성된 리소스 사용량 지표를 볼 수 있습니다. 지표 보기 환경을 최적화하려면 오른쪽 상단의 선택기를 사용하여 원하는 시간 범위를 선택하여 특정 CPU 및 메모리 사용량 데이터에 초점을 맞춥니다.
참고
원격 측정 데이터는 모니터링 목적으로 제공됩니다. 실제 결제는 측정된 사용량 데이터를 기반으로 계산되며 집계 타이밍, 조정 프로세스 및 측정 정밀도로 인해 원격 측정 값과 다를 수 있습니다. 신뢰할 수 있는 요금은 AWS 결제 명세서를 참조하세요.
제공된 스팬 데이터
AgentCore는 관찰성을 향상시키기 위해 에이전트 런타임 호출에 대한 가시성을 제공하는 구조화된 스팬을 제공합니다. 이 범위 데이터를 활성화하려면 에이전트 리소스에서 관찰성을 활성화해야 합니다. 단계 및 세부 정보는 Amazon Bedrock AgentCore 리소스에 관찰성 추가를 참조하세요. 이 범위 데이터는 Amazon CloudWatch Logs에서 사용할 수 있습니다. 스팬은 에이전트의 로그 그룹(/aws/bedrock-agentcore/runtimes/<agent_id>-<endpoint_name>) 또는 공유 스팬 대상을 사용하는 에이전트의 aws/spans 로그 그룹에 표시됩니다. 자세한 내용은 Amazon Bedrock AgentCore 런타임에서 호스팅되는 에이전트의 범위 대상을 참조하세요. 다음 표는 스팬이 생성되는 작업과 캡처된 각 스팬의 속성을 정의합니다.
| 작업 이름 | 범위 속성 | 설명 |
|---|---|---|
|
InvokeAgentRuntime |
aws.operation.name, aws.resource.arn, aws.request_id, aws.agent.id, aws.endpoint.name, aws.account.id, session.id, latency_ms, error_type, aws.resource.type, aws.xray.origin, aws.region |
에이전트 런타임을 호출합니다. |
-
aws.operation.name - 작업 이름(InvokeAgentRuntime)
-
aws.resource.arn - 에이전트 런타임의 Amazon 리소스 이름
-
aws.request_id - 호출에 대한 요청 ID
-
aws.agent.id - 에이전트 런타임의 고유 식별자
-
aws.endpoint.name - 에이전트 런타임을 호출하는 데 사용되는 엔드포인트의 이름입니다.
-
aws.account.id - 고객의 계정 ID
-
session.id - 호출의 세션 ID
-
latency_ms - 밀리초 단위의 요청 지연 시간
-
error_type - 스로틀, 시스템 또는 사용자(오류인 경우에만 존재)
-
aws.resource.type - CFN 리소스 유형
-
aws.xray.origin - 서비스를 식별하기 위해 x-ray에서 사용하는 CFN 리소스 유형
-
aws.region - 고객 리소스가 있는 리전
애플리케이션 로그 데이터
AgentCore는 에이전트 런타임 호출 및 세션 수준 리소스 소비에 대한 가시성을 확보하는 데 도움이 되는 구조화된 애플리케이션 로그를 제공합니다. 이 로그 데이터는 에이전트 리소스에서 관찰성을 활성화할 때 제공됩니다. 단계 및 세부 정보는 Amazon Bedrock AgentCore 리소스에 관찰성 추가를 참조하세요. AgentCore는 CloudWatch Logs, Amazon S3 또는 Firehose 스트림에 로그를 출력할 수 있습니다. CloudWatch Logs 대상을 사용하는 경우 이러한 로그는 에이전트의 애플리케이션 로그 또는 자체 사용자 지정 로그 그룹에 저장됩니다.
| 로그 유형 | 로그 필드 | 설명 |
|---|---|---|
|
애플리케이션_로그 |
timestamp, resource_arn, event_timestamp, account_id, request_id, session_id, trace_id, span_id, service_name, operation, request_payload, response_payload |
추적 필드, 요청 및 응답 페이로드를 사용하는 InvokeRuntimeOperation에 대한 애플리케이션 로그 |
-
request_payload - 에이전트 호출의 요청 페이로드
-
response_payload - 에이전트 호출의 응답
오류 유형
다음 목록은 사용자, 시스템 및 제한 오류에 대해 가능한 오류 유형을 정의합니다.
사용자 오류 코드
-
InvocationError.Validation- 클라이언트에서 잘못된 입력 제공(400) -
InvocationError.ResourceNotFound- 요청된 리소스가 존재하지 않음(404) -
InvocationError.AccessDenied- 클라이언트에 권한이 없음(403) -
InvocationError.Conflict- 리소스 충돌(409)
시스템 오류 코드
-
InvocationError.Internal- 내부 서버 오류(500)
오류 코드 제한
-
InvocationError.Throttling- 속도 제한(429) -
InvocationError.ServiceQuota- 서비스 측 할당량/한도 도달(402)
