跨區域推論
AgentCore Evaluations 會自動選取您地理位置內的最佳區域,以處理您的推論請求。這可將可用的運算資源、模型可用性最大化,並提供最佳客戶體驗。您的資料只會存放在發出請求的區域,但輸入提示和輸出結果可能會在該區域之外處理。所有資料都會透過 AWS安全網路進行加密傳輸。
對於 AgentCore Evaluations,來自亞太區域 (首爾) (ap-northeast-2) 的推論請求使用全域跨區域推論,並將安全地路由到所有全球商業 AWS 區域的所有可用運算資源。如需詳細資訊,請參閱 AgentCore Evaluations 的全域跨區域推論。
如果您的使用案例需要避免跨區域推論 ,您可以建立在沒有 CRIS 的情況下操作的自訂評估器。自訂評估器提供下列彈性:
-
不使用 CRIS 複寫內建評估器的功能
-
將相同的評估條件和評分結構描述定義為內建評估器
-
維持對推論組態的完全控制
注意
雖然自訂評估器可以設定為符合內建評估器功能,但您需負責管理模型可用性和運算資源。