翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。
前提条件
バッチ評価を実行する前に、以下が設定されていることを確認してください。
セットアップ
バッチ評価を実行する前に、以下を設定します。
-
サポートされているフレームワークと計測ライブラリで構築されたエージェント。サポートされているフレームワークと計測ライブラリの詳細については、「サポートされているエージェントフレームワーク」を参照してください。
-
オブザーバビリティが有効になっている AgentCore ランタイムにデプロイされたエージェント、またはトランザクション検索を含む AgentCore オブザーバビリティで設定されたサポートされているフレームワークで構築されたエージェント。テレメトリのセットアップの詳細については、「テレメトリのセットアップと配信」を参照してください。
-
CloudWatch Logs のテレメトリデータを使用して呼び出されたエージェント。CloudWatch がテレメトリを取り込むまで 2~5 分待ってから、バッチ評価を開始します。
AWS 認証情報とアクセス許可
バッチ評価は、発信者の認証情報で実行されます。オンライン評価とは異なり、バッチ評価には個別のサービス実行ロールは必要ありません。このサービスは IAM ID を使用して CloudWatch Logs にアクセスし、セッション検出と評価結果の書き込みを行います。
AWS 認証情報は、次のサービスのアクセス許可で設定されています。
-
bedrock-agentcore— バッチ評価を開始、取得、一覧表示、停止、削除するには -
logs(CloudWatch Logs) — セッションスパンの読み取りと評価結果の書き込み
必要な IAM 許可
次の IAM ポリシーは、バッチ評価の実行に必要な最小限のアクセス許可を付与します。
{ "Version": "2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "bedrock-agentcore:StartBatchEvaluation", "bedrock-agentcore:GetBatchEvaluation", "bedrock-agentcore:ListBatchEvaluations", "bedrock-agentcore:StopBatchEvaluation", "bedrock-agentcore:DeleteBatchEvaluation" ], "Resource": "arn:aws:bedrock-agentcore:*:*:batch-evaluate/*" }, { "Sid": "ReadAgentLogs", "Effect": "Allow", "Action": [ "logs:GetLogEvents", "logs:FilterLogEvents", "logs:StartQuery", "logs:GetQueryResults" ], "Resource": [ "arn:aws:logs:*:*:log-group:/aws/bedrock-agentcore/runtimes/*", "arn:aws:logs:*:*:log-group:/aws/bedrock-agentcore/evaluations/*" ] }, { "Sid": "DescribeLogGroups", "Effect": "Allow", "Action": "logs:DescribeLogGroups", "Resource": "*" }, { "Sid": "WriteEvaluationLogs", "Effect": "Allow", "Action": [ "logs:CreateLogGroup", "logs:CreateLogStream", "logs:PutLogEvents", "logs:PutRetentionPolicy" ], "Resource": [ "arn:aws:logs:*:*:log-group:/aws/bedrock-agentcore/evaluations/*", "arn:aws:logs:*:*:log-group:/aws/bedrock-agentcore/evaluations/*:*" ] }, { "Sid": "BedrockInvokeForCustomEvaluators", "Effect": "Allow", "Action": [ "bedrock:InvokeModel", "bedrock:InvokeModelWithResponseStream" ], "Resource": [ "arn:aws:bedrock:*::foundation-model/*", "arn:aws:bedrock:*:*:inference-profile/*" ] } ] }
注記
BedrockInvokeForCustomEvaluators ステートメントは、Amazon Bedrock モデルを呼び出すカスタム評価者を使用する場合にのみ必要です。組み込み評価者のみを使用する場合は省略できます。
注記
WriteEvaluationLogs ステートメントを使用すると、サービスは評価結果のロググループとログストリームを作成し、認証情報の下に結果を書き込むことができます。このアクションはリソースレベルのアクセス許可をサポートしていないResource*ため、 logs:DescribeLogGroupsに を付与する必要があります。
SDK と CLI の要件
-
AWS SDK (boto3): Python 3.10 以降。
-
AgentCore CLI:
agentcore --versionを実行してバージョンを確認します。
注記
バッチ評価 CLI の表面は以下のコマンドで構成されます。
-
agentcore run batch-evaluation— バッチ評価を開始する -
agentcore stop batch-evaluation -i <id>— 実行中のバッチ評価を停止する -
agentcore view batch-evaluation [id]およびagentcore batch-evaluations history— ジョブの表示またはジョブの一覧表示 -
agentcore archive batch-evaluation -i <id>— バッチ評価ジョブレコードをサービスにアーカイブし、ローカル履歴をクリアする
bedrock-agentcore:DeleteBatchEvaluation IAM アクションは CLI の archive batch-evaluation コマンドによってバックアップされます。リテラル delete CLI 動詞はありません。