상담원 모델에 추가 처리량을 프로비저닝하세요 - Amazon Bedrock

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

상담원 모델에 추가 처리량을 프로비저닝하세요

모델 추론 중에 에이전트가 처리할 수 있는 토큰의 비율과 수를 늘리려면 구입한 프로비저닝된 처리량을 에이전트가 사용 중인 모델에 연결하세요. 프로비저닝된 처리량 및 구매 방법에 대한 자세한 내용은 을 참조하십시오. Amazon Bedrock의 프로비저닝된 처리량으로 모델 호출 용량 증가

에이전트 별칭을 만들거나 업데이트할 때 프로비저닝된 처리량을 연결할 수 있습니다. Amazon Bedrock 콘솔에서는 별칭을 설정하거나 편집할 때 프로비저닝된 처리량을 선택합니다. Amazon API provisionedThroughput Bedrock에서는 CreateAgentAliasor UpdateAgentAlias; 요청을 보낼 routingConfiguration 때 입력 내용을 지정합니다.