Inferência entre regiões
AgentCore As avaliações selecionarão automaticamente a região ideal em sua geografia para processar suas solicitações de inferência. Isso maximiza os recursos computacionais disponíveis, a disponibilidade do modelo e oferece a melhor experiência ao cliente. Seus dados permanecerão armazenados somente na região de origem da solicitação. No entanto, as solicitações de entrada e os resultados de saída podem ser processados fora dessa região. Todos os dados serão transmitidos criptografados pela rede segura AWS da empresa.
Para AgentCore avaliações, as solicitações de inferência originadas na Ásia-Pacífico (Seul) (ap-northeast-2) usam inferência global entre regiões e serão roteadas com segurança para todos os recursos computacionais disponíveis em todas as regiões comerciais globais. AWS Para obter mais informações, consulte Inferência global entre regiões para AgentCore avaliações.
Se seu caso de uso exigir evitar a inferência entre regiões, você pode criar avaliadores personalizados que operam sem o CRIS. Os avaliadores personalizados oferecem a flexibilidade de:
-
Replique a funcionalidade dos avaliadores integrados sem usar o CRIS
-
Defina critérios de avaliação e esquemas de pontuação idênticos como avaliadores integrados
-
Mantenha controle total sobre a configuração de inferência
nota
Embora os avaliadores personalizados possam ser configurados para corresponder à funcionalidade integrada do avaliador, você é responsável por gerenciar a disponibilidade do modelo e os recursos computacionais.
