クロスリージョン推論
AgentCore Evaluations は、推論リクエストを処理するために、地理的な最適なリージョンを自動的に選択します。これにより、利用可能なコンピューティングリソース、モデルの可用性を最大化し、最高のカスタマーエクスペリエンスを実現できます。データはリクエストが発生したリージョンにのみ保存されますが、入力プロンプトと出力結果はそのリージョン外で処理される場合があります。すべてのデータは、 AWSの安全なネットワーク間で暗号化されて送信されます。
AgentCore Evaluations の場合、アジアパシフィック (ソウル) (ap-northeast-2) を起点とする推論リクエストはグローバルクロスリージョン推論を使用し、すべてのグローバル商用 AWS リージョンで利用可能なすべてのコンピューティングリソースに安全にルーティングされます。詳細については、AgentCore評価のグローバルクロスリージョン推論」を参照してください。
ユースケースでクロスリージョン推論 を回避する必要がある場合は、CRIS なしで動作するカスタム評価者を作成できます。カスタム評価者は、以下の柔軟性を提供します。
-
CRIS を使用せずに組み込み評価者の機能をレプリケートする
-
組み込み評価者と同じ評価基準とスコアリングスキーマを定義する
-
推論設定を完全に制御する
注記
カスタム評価者は組み込みの評価者機能と一致するように設定できますが、モデルの可用性とコンピューティングリソースを管理するのはユーザーの責任です。