Inferencia entre regiones
AgentCore Las evaluaciones seleccionarán automáticamente la región óptima dentro de su geografía para procesar sus solicitudes de inferencia. Esto maximiza los recursos informáticos disponibles, la disponibilidad de los modelos y ofrece la mejor experiencia al cliente. Sus datos permanecerán almacenados únicamente en la región en la que se originó la solicitud; sin embargo, es posible que las solicitudes de entrada y los resultados de salida se procesen fuera de esa región. Todos los datos se transmitirán cifrados a través AWS de la red segura de nuestra empresa.
Para AgentCore las evaluaciones, las solicitudes de inferencia que se originan en Asia Pacífico (Seúl) (ap-northeast-2) utilizan la inferencia global entre regiones y se enrutarán de forma segura a todos los recursos informáticos disponibles en todas las regiones comerciales globales. AWS Para obtener más información, consulte Inferencia global entre regiones para las evaluaciones. AgentCore
Si su caso de uso requiere evitar la inferencia entre regiones, puede crear evaluadores personalizados que funcionen sin CRIS. Los evaluadores personalizados ofrecen la flexibilidad necesaria para:
-
Replique la funcionalidad de los evaluadores integrados sin usar CRIS
-
Defina criterios de evaluación y esquemas de puntuación idénticos a los de los evaluadores integrados
-
Mantenga el control total sobre la configuración de inferencias
nota
Si bien los evaluadores personalizados se pueden configurar para que coincidan con la funcionalidad de evaluación integrada, usted es responsable de administrar la disponibilidad del modelo y los recursos informáticos.
