Inférence entre régions
AgentCore Les évaluations sélectionneront automatiquement la région optimale de votre zone géographique pour traiter vos demandes d'inférence. Cela permet d'optimiser les ressources informatiques disponibles, la disponibilité des modèles et d'offrir la meilleure expérience client. Vos données resteront stockées uniquement dans la région d'origine de la demande. Toutefois, les demandes de saisie et les résultats de sortie peuvent être traités en dehors de cette région. Toutes les données seront transmises cryptées sur AWS le réseau sécurisé.
Pour les AgentCore évaluations, les demandes d'inférence provenant de l'Asie-Pacifique (Séoul) (ap-northeast-2) utilisent l'inférence interrégionale globale et seront acheminées de manière sécurisée vers toutes les ressources informatiques disponibles dans toutes les régions commerciales du monde. AWS Pour plus d'informations, voir Inférence interrégionale globale pour les AgentCore évaluations.
Si votre cas d'utilisation nécessite d'éviter les inférences entre régions, vous pouvez créer des évaluateurs personnalisés qui fonctionnent sans CRIS. Les évaluateurs personnalisés offrent la flexibilité nécessaire pour :
-
Reproduisez les fonctionnalités des évaluateurs intégrés sans utiliser CRIS
-
Définissez des critères d'évaluation et des schémas de notation identiques en tant qu'évaluateurs intégrés
-
Gardez le contrôle total de la configuration d'inférence
Note
Bien que les évaluateurs personnalisés puissent être configurés pour correspondre aux fonctionnalités d'évaluation intégrées, vous êtes responsable de la gestion de la disponibilité des modèles et des ressources de calcul.
