교차 리전 추론
AgentCore Evaluations는 지리 내에서 추론 요청을 처리할 최적의 리전을 자동으로 선택합니다. 이렇게 하면 사용 가능한 컴퓨팅 리소스와 모델 가용성이 극대화되고 최상의 고객 경험이 제공됩니다. 데이터는 요청이 시작된 리전에만 저장되지만 입력 프롬프트 및 출력 결과는 해당 리전 외부에서 처리될 수 있습니다. 모든 데이터는 AWS보안 네트워크를 통해 암호화되어 전송됩니다.
AgentCore 평가의 경우 아시아 태평양(서울)(ap-northeast-2)에서 시작된 추론 요청은 글로벌 교차 리전 추론을 사용하며 모든 글로벌 상용 AWS 리전에서 사용 가능한 모든 컴퓨팅 리소스로 안전하게 라우팅됩니다. 자세한 내용은 AgentCore 평가에 대한 글로벌 리전 간 추론을 참조하세요.
사용 사례에서 리전 간 추론을 피해야 하는 경우 CRIS 없이 작동하는 사용자 지정 평가자를 생성할 수 있습니다. 사용자 지정 평가자는 다음과 같은 유연성을 제공합니다.
-
CRIS를 사용하지 않고 기본 제공 평가자의 기능 복제
-
기본 제공 평가자로 동일한 평가 기준 및 점수 평가 스키마 정의
-
추론 구성에 대한 완전한 제어 유지
참고
사용자 지정 평가자는 기본 제공 평가자 기능과 일치하도록 구성할 수 있지만 모델 가용성 및 컴퓨팅 리소스를 관리하는 것은 사용자의 책임입니다.