기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
애플리케이션 추론 프로파일 생성
하나 이상의 리전으로 애플리케이션 추론 프로파일을 생성하여 모델을 호출할 때 사용량과 비용을 추적할 수 있습니다.
-
한 리전에 대한 애플리케이션 추론 프로파일을 생성하려면 파운데이션 모델을 지정합니다. 해당 모델을 사용하여 해당 리전에 수행된 요청의 사용 및 비용이 추적됩니다.
-
여러 리전에 대한 애플리케이션 추론 프로파일을 생성하려면 교차 리전(시스템 정의) 추론 프로파일을 지정합니다. 추론 프로필은 선택한 교차 리전(시스템 정의) 추론 프로필에 정의된 리전으로 요청을 라우팅합니다. 추론 프로필에서 리전에 대한 요청의 사용량 및 비용이 추적됩니다.
현재는 Amazon Bedrock API를 통해서만 추론 프로파일을 생성할 수 있습니다.
추론 프로파일을 생성하려면 Amazon Bedrock 컨트롤 플레인 엔드포인트를 사용하여 CreateInferenceProfile 요청을 보냅니다.
필수 필드는 다음과 같습니다.
| 필드 | 사용 사례 |
|---|---|
| inferenceProfileName | 추론 프로파일의 이름을 지정합니다. |
| modelSource | 비용과 사용량을 추적하려는 모델과 리전을 정의하는 파운데이션 모델 또는 교차 리전(시스템 정의) 추론 프로파일을 지정합니다. |
다음 필드는 선택 사항입니다.
| 필드 | 사용 사례 |
|---|---|
| 설명 | 추론 프로파일에 대한 설명을 제공합니다. |
| tags | 추론 프로파일에 태그를 연결하려면 자세한 내용은 Amazon Bedrock 리소스 태그 지정 및 비용 할당 태그를 사용하여 AWS 비용 구성 및 추적을 참조하세요. |
| clientRequestToken | API 요청이 한 번만 완료되도록 합니다. 자세한 내용은 Ensuring idempotency를 참조하세요. |
응답은 다른 추론 프로파일 관련 작업에 사용할 inferenceProfileArn 수 있고 모델 호출 및 Amazon Bedrock 리소스와 함께 사용할 수 있는를 반환합니다.
