Amazon Bedrock의 상태 및 성능 모니터링 - Amazon Bedrock
Amazon Bedrock 런타임 지표CloudWatch Amazon Bedrock에 대한 지표

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

Amazon Bedrock의 상태 및 성능 모니터링

원시 데이터를 수집 CloudWatch하여 읽기 가능하고 실시간에 가까운 지표로 처리하는 Amazon 를 사용하여 Amazon Bedrock 애플리케이션의 모든 부분을 모니터링할 수 있습니다. 콘솔을 사용하여 지표를 CloudWatch 그래프로 표시할 수 있습니다. 특정 임계값을 감시하다가 해당 임계값을 초과할 경우 알림을 전송하거나 조치를 취하도록 경보를 설정할 수도 있습니다.

자세한 내용은 Amazon 사용 설명서의 Amazon이란 무엇입니까 CloudWatch?를 참조하세요. CloudWatch

주제

Amazon Bedrock 런타임 지표

아래 표에서는 Amazon Bedrock에서 제공하는 런타임 지표를 설명합니다.

지표 이름 단위 설명
Invocations SampleCount Converse , ConverseStream, InvokeModel및 InvokeModelWithResponseStream API 작업에 대한 요청 수입니다.

InvocationLatency

 MilliSeconds

호출 지연 시간.

InvocationClientErrors

 SampleCount

클라이언트 측 오류가 발생하는 호출 수.

InvocationServerErrors

 SampleCount

AWS 서버 측 오류가 발생하는 호출 수입니다.

InvocationThrottles

 SampleCount

시스템이 제한된 호출 수.

InputTokenCount

 SampleCount

입력의 토큰 수입니다.
LegacyModelInvocations SampleCount 레거시 모델을 사용한 간접 호출 수

OutputTokenCount

 SampleCount

출력의 토큰 수입니다.

OutputImageCount

 SampleCount

출력의 이미지 수(이미지 생성 모델에만 해당).

CloudWatch Amazon Bedrock에 대한 지표

각 전송 성공 또는 실패 시도에 대해 네임스페이스 AWS/Bedrock및 Across all model IDs차원 아래에 다음 Amazon CloudWatch 지표가 생성됩니다.

  • ModelInvocationLogsCloudWatchDeliverySuccess

  • ModelInvocationLogsCloudWatchDeliveryFailure

  • ModelInvocationLogsS3DeliverySuccess

  • ModelInvocationLogsS3DeliveryFailure

  • ModelInvocationLargeDataS3DeliverySuccess

  • ModelInvocationLargeDataS3DeliveryFailure

Amazon Bedrock 작업의 지표를 검색하려면 다음 정보를 지정해야 합니다.

  • 지표 측정기준. 차원은 지표를 식별하는 데 사용하는 이름-값 페어 집합입니다. Amazon Bedrock은 다음과 같은 차원을 지원합니다.

    • ModelId - 모든 지표

    • ModelId + ImageSize + BucketedStepSize – OutputImageCount

  • InvocationClientErrors와 같은 지표 이름.

AWS Management Console, AWS CLI또는 를 사용하여 Amazon Bedrock에 대한 지표를 가져올 수 있습니다 CloudWatch API. AWS 소프트웨어 개발 키트(SDKs) 또는 도구 중 하나를 CloudWatch API 통해 를 CloudWatch API 사용할 수 있습니다.

CloudWatch 콘솔에서 Amazon Bedrock 지표를 보려면 탐색 창의 지표 섹션으로 이동하여 모든 지표 옵션을 선택한 다음 모델 ID를 검색합니다.

를 사용하여 Amazon Bedrock을 모니터링할 수 있는 적절한 CloudWatch 권한이 있어야 합니다. CloudWatch 자세한 내용은 Amazon CloudWatch 사용 설명서의 Amazon 인증 및 액세스 제어를 CloudWatch 참조하세요.