View a markdown version of this page

前提条件 - Amazon Bedrock AgentCore

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

前提条件

バッチ評価を実行する前に、以下が設定されていることを確認してください。

セットアップ

バッチ評価を実行する前に、以下を設定します。

  • サポートされているフレームワークと計測ライブラリで構築されたエージェント。サポートされているフレームワークと計測ライブラリの詳細については、「サポートされているエージェントフレームワーク」を参照してください。

  • オブザーバビリティが有効になっている AgentCore ランタイムにデプロイされたエージェント、またはトランザクション検索を含む AgentCore オブザーバビリティで設定されたサポートされているフレームワークで構築されたエージェント。テレメトリのセットアップの詳細については、「テレメトリのセットアップと配信」を参照してください。

  • CloudWatch Logs のテレメトリデータを使用して呼び出されたエージェント。CloudWatch がテレメトリを取り込むまで 2~5 分待ってから、バッチ評価を開始します。

AWS 認証情報とアクセス許可

バッチ評価は、発信者の認証情報で実行されます。オンライン評価とは異なり、バッチ評価には個別のサービス実行ロールは必要ありません。このサービスは IAM ID を使用して CloudWatch Logs にアクセスし、セッション検出と評価結果の書き込みを行います。

AWS 認証情報は、次のサービスのアクセス許可で設定されています。

  • bedrock-agentcore — バッチ評価を開始、取得、一覧表示、停止、削除するには

  • logs (CloudWatch Logs) — セッションスパンの読み取りと評価結果の書き込み

必要な IAM 許可

次の IAM ポリシーは、バッチ評価の実行に必要な最小限のアクセス許可を付与します。

{ "Version": "2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "bedrock-agentcore:StartBatchEvaluation", "bedrock-agentcore:GetBatchEvaluation", "bedrock-agentcore:ListBatchEvaluations", "bedrock-agentcore:StopBatchEvaluation", "bedrock-agentcore:DeleteBatchEvaluation" ], "Resource": "arn:aws:bedrock-agentcore:*:*:batch-evaluate/*" }, { "Sid": "ReadAgentLogs", "Effect": "Allow", "Action": [ "logs:GetLogEvents", "logs:FilterLogEvents", "logs:StartQuery", "logs:GetQueryResults" ], "Resource": [ "arn:aws:logs:*:*:log-group:/aws/bedrock-agentcore/runtimes/*", "arn:aws:logs:*:*:log-group:/aws/bedrock-agentcore/evaluations/*" ] }, { "Sid": "DescribeLogGroups", "Effect": "Allow", "Action": "logs:DescribeLogGroups", "Resource": "*" }, { "Sid": "WriteEvaluationLogs", "Effect": "Allow", "Action": [ "logs:CreateLogGroup", "logs:CreateLogStream", "logs:PutLogEvents", "logs:PutRetentionPolicy" ], "Resource": [ "arn:aws:logs:*:*:log-group:/aws/bedrock-agentcore/evaluations/*", "arn:aws:logs:*:*:log-group:/aws/bedrock-agentcore/evaluations/*:*" ] }, { "Sid": "BedrockInvokeForCustomEvaluators", "Effect": "Allow", "Action": [ "bedrock:InvokeModel", "bedrock:InvokeModelWithResponseStream" ], "Resource": [ "arn:aws:bedrock:*::foundation-model/*", "arn:aws:bedrock:*:*:inference-profile/*" ] } ] }
注記

BedrockInvokeForCustomEvaluators ステートメントは、Amazon Bedrock モデルを呼び出すカスタム評価者を使用する場合にのみ必要です。組み込み評価者のみを使用する場合は省略できます。

注記

WriteEvaluationLogs ステートメントを使用すると、サービスは評価結果のロググループとログストリームを作成し、認証情報の下に結果を書き込むことができます。このアクションはリソースレベルのアクセス許可をサポートしていないResource*ため、 logs:DescribeLogGroupsに を付与する必要があります。

SDK と CLI の要件

  • AWS SDK (boto3): Python 3.10 以降。

  • AgentCore CLI: agentcore --versionを実行してバージョンを確認します。

注記

バッチ評価 CLI の表面は以下のコマンドで構成されます。

  • agentcore run batch-evaluation — バッチ評価を開始する

  • agentcore stop batch-evaluation -i <id> — 実行中のバッチ評価を停止する

  • agentcore view batch-evaluation [id] および agentcore batch-evaluations history — ジョブの表示またはジョブの一覧表示

  • agentcore archive batch-evaluation -i <id> — バッチ評価ジョブレコードをサービスにアーカイブし、ローカル履歴をクリアする

bedrock-agentcore:DeleteBatchEvaluation IAM アクションは CLI の archive batch-evaluation コマンドによってバックアップされます。リテラル delete CLI 動詞はありません。