サポートされているエージェントフレームワーク
Amazon Bedrock AgentCore Evaluations は、一般的なエージェントフレームワークで構築されたエージェントを評価します。エージェントがテレメトリとして出力する内容とそのテレメトリの構造は、 で構築するエージェントフレームワークと、その記録に使用する計測ライブラリによって異なります。
サポートされているフレームワークごとに、このセクションでは以下について説明します。
-
使用できる計測ライブラリ。
-
エージェントを計測する方法。
-
結果のスパンとイベントレコードはどのようなものか。
-
ユーザープロンプト、エージェントのレスポンス、ツール呼び出しなど、評価サービスが必要な値を見つける方法。
AgentCore Evaluations は、以下のフレームワークと計測ライブラリをサポートしています。これらのライブラリの Python バージョンのみをサポートしています。
| エージェントフレームワーク | 計測ライブラリ | スコープ名 | 推奨バージョン |
|---|---|---|---|
|
Strands Agents |
組み込み (Strands Agents SDK) |
|
最新 |
|
LangGraph |
OpenTelemetry ( |
|
|
|
LangGraph |
OpenInference ( |
|
|
|
OpenAI エージェント |
OpenTelemetry ( |
|
|
|
OpenAI エージェント |
OpenInference ( |
|
|
|
LlamaIndex |
OpenTelemetry ( |
|
|
|
LlamaIndex |
OpenInference ( |
|
|
|
Google ADK |
OpenInference ( |
|
|
|
Claude エージェント SDK |
OpenInference ( |
|
|
スコープ名は、各スパンとイベントレコードの scope.nameフィールドの値です。評価サービスはこれを使用して、スパンを処理できるかどうかを判断します。
サービスがセッションを読み取る方法
フレームワークに関係なく、評価サービスはスパンとイベントレコードの 2 つのテレメトリシグナルからセッションを再構築します。各スパンをタイプ別に分類し、そこからコンテンツを抽出します。
-
フレームワーク固有の属性からスパンタイプを特定します。スパンは、呼び出しエージェントスパン (最上位のエージェント実行)、実行ツールスパン (単一のツール呼び出し)、または推論スパン (単一のモデル呼び出し) です。
-
各スパンの属性または相関イベントレコードから関連する値を抽出します。たとえば、ユーザープロンプトはエージェント入力のヒューマン (user-role) メッセージから取得され、エージェントのレスポンスはエージェント出力の AI (assistant-role) メッセージから取得されます。
正確な属性名とコンテンツの場所は、フレームワークと計測ライブラリによって異なります。スパン、イベントレコード、テレメトリシグナルのページでは、スパンとイベントレコードの構造とコンテンツが存在する場所について説明します。フレームワークごとのページでは、サポートされている各フレームワークの属性とサンプルデータについて説明します。
オブザーバビリティを設定する
エージェントを計測することは、評価サービスが読み取ることができるテレメトリの生成の一部です。評価をエンドツーエンドで機能させるには、エージェントでオブザーバビリティを有効にし、スパンとイベントレコードを Amazon CloudWatch にエクスポートする必要があります。以下のステップを実行します。
-
評価の前提条件である CloudWatch トランザクション検索を有効にします。AgentCore オブザーバビリティの有効化」を参照してください。
-
ホストされている場所に基づいて、エージェントのオブザーバビリティを有効にします。
-
Amazon Bedrock AgentCore ランタイムでホストされているエージェントについては、AgentCore でホストされているエージェントのエージェントコードでオブザーバビリティを有効にする」を参照してください。
-
Amazon Elastic Container Service (Amazon ECS)、Amazon Elastic Kubernetes Service (Amazon EKS)、 AWS Lambda、またはその他の環境でホストされているエージェントについては、AgentCore の外部でホストされているエージェントのオブザーバビリティの有効化」を参照してください。
-
サンプルエージェント
次のサンプルは、Amazon Bedrock AgentCore ランタイム外でホストされている Strands エージェントを示し、ADOT を使用してテレメトリを Amazon CloudWatch にエクスポートしています。これらは、評価 API ではなくオブザーバビリティの設定に焦点を当てています。サンプルは Strands を使用しますが、同じホスティングおよびテレメトリエクスポートパターンが LangGraph などのサポートされている他のフレームワークに適用されます。