기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
원시 데이터를 수집하여 읽기 가능하고 실시간에 가까운 지표로 처리하는 Amazon CloudWatch를 사용해 Amazon Bedrock 애플리케이션의 모든 부분을 모니터링할 수 있습니다. CloudWatch 콘솔을 사용하여 지표를 그래프로 작성할 수 있습니다. 특정 임계값을 감시하다가 해당 임계값을 초과할 경우 알림을 전송하거나 조치를 취하도록 경보를 설정할 수도 있습니다.
자세한 내용은 Amazon CloudWatch 사용 설명서에서 Amazon CloudWatch란 무엇인가요?를 참조하세요.
주제
Amazon Bedrock 런타임 지표
아래 표에서는 Amazon Bedrock에서 제공하는 런타임 지표를 설명합니다.
| 메트릭 이름 | 단위 | 설명 |
|---|---|---|
| Invocations | SampleCount | Converse, ConverseStream, InvokeModel, InvokeModelWithResponseStream API 작업에 대한 요청의 수입니다. |
|
InvocationLatency |
MilliSeconds |
호출 지연 시간.
|
|
InvocationClientErrors |
SampleCount |
클라이언트 측 오류가 발생하는 호출 수. |
|
InvocationServerErrors |
SampleCount |
AWS 서버 측 오류가 발생하는 호출 수입니다. |
|
InvocationThrottles |
SampleCount |
시스템이 제한된 호출 수. |
|
InputTokenCount |
SampleCount |
입력의 토큰 수입니다. |
| LegacyModelInvocations | SampleCount | 레거시 모델을 사용한 간접 호출 수 |
|
OutputTokenCount |
SampleCount |
출력의 토큰 수입니다. |
|
OutputImageCount |
SampleCount |
출력의 이미지 수입니다(이미지 생성 모델에만 해당). |
Amazon Bedrock에 대한 CloudWatch 지표
전송이 성공 또는 실패할 때마다 네임스페이스 AWS/Bedrock 및 Across all model IDs 차원 아래에 다음과 같은 Amazon CloudWatch 지표가 생성됩니다.
-
ModelInvocationLogsCloudWatchDeliverySuccess -
ModelInvocationLogsCloudWatchDeliveryFailure -
ModelInvocationLogsS3DeliverySuccess -
ModelInvocationLogsS3DeliveryFailure -
ModelInvocationLargeDataS3DeliverySuccess -
ModelInvocationLargeDataS3DeliveryFailure
Amazon Bedrock 작업의 지표를 검색하려면 다음 정보를 지정해야 합니다.
-
지표 측정기준. 차원은 지표를 식별하는 데 사용하는 이름-값 페어 집합입니다. Amazon Bedrock은 다음과 같은 차원을 지원합니다.
-
ModelId- 모든 지표 -
ModelId + ImageSize + BucketedStepSize– OutputImageCount
-
-
InvocationClientErrors와 같은 지표 이름.
AWS CLI, 또는 CloudWatch API를 사용하여 Amazon Bedrock에 대한 지표 AWS Management Console를 가져올 수 있습니다. AWS 소프트웨어 개발 키트(SDKs) 또는 CloudWatch API 도구 중 하나를 통해 CloudWatch API를 사용할 수 있습니다.
CloudWatch 콘솔에서 Amazon Bedrock 지표를 보려면 탐색 창의 지표 섹션으로 이동하여 모든 지표 옵션을 선택한 다음 모델 ID를 검색합니다.
CloudWatch를 사용하여 Amazon Bedrock을 모니터링하려면 적절한 CloudWatch 권한이 있어야 합니다. 자세한 내용은 Amazon CloudWatch 사용 설명서의 Amazon CloudWatch에 대한 인증 및 액세스 제어 섹션을 참조하세요.
