View a markdown version of this page

インスタンス - Amazon Bedrock AgentCore

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

インスタンス

インスタンスコンピューティングタイプでエージェントをホストすると、Amazon Bedrock AgentCore Runtime は、独自の AWS アカウント内でプロビジョニングおよび運用する Amazon EC2 マネージドインスタンスでエージェントを実行します。これにより、インスタンスのライフサイクル、オペレーティングシステム、ランタイムのパッチ適用、スケーリング、またはティアダウンを管理することなく、Amazon EC2 のハードウェア選択と料金上の利点が得られます。キャパシティープロバイダーは、これらのインスタンスが使用するインフラストラクチャを定義し、AgentCore はユーザーに代わってプロビジョニング、パッチ適用、スケーリング、およびティアダウンを処理します。インスタンスはアカウントで実行されるため、データはアカウントに保持され、既存のアカウントコントロールが適用され、Savings Plans、リザーブドインスタンス、オンデマンドキャパシティ予約 (ODCRs) などの EC2 料金契約を使用できます。インスタンスを使用すると、永続的なコンピューティングが可能になり、基盤となるインフラストラクチャの可視性と制御を維持しながら、1 つのインスタンスで複数のコラボレーションエージェントを実行できます。

インスタンスを使用するタイミング

サーバーレスmicroVM モデルが提供する機能を超える機能をワークロードが必要とする場合は、インスタンスのコンピューティングタイプを選択します。

  • 永続的で長時間実行されるセッション – セッションは最大 14 日間実行できますが、microVMs。これは、長時間実行されるオートメーション、変換ジョブ、および長期間にわたって一時停止および再開するエージェントに適しています。

  • 専用ハードウェア – 3D レンダリング、シミュレーション、モデル推論など、コンピューティング負荷の高いワークロードでサポートされている GPU インスタンスタイプを選択します。AgentCore はインスタンスで GPU ドライバーをプロビジョニングするため、標準のコンテナイメージはドライバーをバンドルせずに動作し、コンピューティング (CUDA) ワークロードとグラフィックスワークロードの両方がサポートされます。サポートされているファミリーについては、「GPU インスタンスタイプを使用する」を参照してください。

  • マルチエージェントコラボレーション – 複数のエージェントを同じインスタンスで実行し、ファイルシステムを共有して、同じタスクで調整できます。

  • アカウント、コントロール – インスタンスはアカウントで実行されるため、データはアカウントにとどまり、Savings Plans やオンデマンドキャパシティ予約 (ODCRs) などの既存のコストメカニズムを使用できます。

ワークロードが軽量の API 駆動型のインタラクションで、すぐに完了する場合、デフォルトのmicroVMsコンピューティングタイプが適しています。詳細については、「Compare compute types」を参照してください。

重要な概念

インスタンスでエージェントをホストすると、マイクロVM で説明されている主要な AgentCore ランタイムの概念に加えて、いくつかのリソースが導入されます。 microVMs

キャパシティープロバイダー

キャパシティープロバイダーは、エージェントが実行する EC2 インフラストラクチャを定義します。オペレーティングシステム、許可されたインスタンスタイプ、ネットワーク (VPC とサブネット)、ストレージボリューム、インスタンスのプロビジョニングとアクセスに使用される IAM ロールです。キャパシティープロバイダーは再利用可能なテンプレートです。複数のエージェントランタイムに関連付けることができ、AgentCore はそれを使用してランタイムが呼び出されたときにインスタンスを起動します。

主な特徴

  • キャパシティープロバイダーは CREATING状態で作成され、設定が検証READYされると になります。検証が失敗すると、 と入力されますCREATE_FAILED。

  • キャパシティープロバイダーが作成されると、その説明のみを編集できます。他の設定を変更するには、キャパシティープロバイダーを複製し、重複フローで更新を行います。

  • キャパシティープロバイダーに関連付けられているランタイム (およびランタイムバージョン) を一覧表示できます。キャパシティープロバイダーを削除する前に、関連付けを解除する必要があります。

  • キャパシティープロバイダーを削除すると、関連するすべてのセッションとその永続的ストレージが停止および削除されます。

インスタンスでのエージェントのランタイム

エージェントランタイムを作成するときは、そのコンピューティングタイプを選択します。インスタンスを選択すると、 capacityProviderConfigurationパラメータを使用してランタイムをキャパシティープロバイダーに関連付けます。ランタイムは、実行するエージェント (コードまたはコンテナアーティファクト) と設定方法 (プロトコル、認証、エンドポイント、バージョン) を引き続き定義します。キャパシティープロバイダーは、実行するコンピューティングを定義します。

ランタイムの作成後にコンピューティングタイプを変更することはできません。

Session

セッションは、ランタイムのキャパシティープロバイダーからインスタンス化された分離された EC2 インスタンスです。各セッションには独自のライフサイクルと永続状態があり、呼び出し時に指定した で識別runtimeSessionIdします。AgentCore は、新しいセッション ID を使用して最初の呼び出し時にセッションを作成し、セッションは停止間でその状態を保持します。

セッションは最大 14 日間実行されます。セッションがこの最大有効期間に達すると、AgentCore は自動的にセッションを停止します。EC2 インスタンスは終了しますが、セッションの永続ボリュームは保持されます。セッションが停止した後に作業を再開するには、同じ を使用してランタイムを再度呼び出しますruntimeSessionId。AgentCore は新しいインスタンスをプロビジョニングし、永続ボリュームを再アタッチするため、データはそのまま残ります。新しいインスタンスは更新されたマシンイメージから起動できるため、再起動されたセッションは最新のパッチを持つインスタンスで実行される可能性があります。セッションを削除すると、AgentCore は永続ボリュームを含むすべてのプロビジョニングを解除します。

セッション分離とマルチテナントセキュリティモデルについては、「ランタイムインスタンスのセキュリティモデルとアクセス許可」を参照してください。

[エージェント]

エージェントは、セッション内で実行されるワークロードです。1 つのランタイムが 1 つのエージェントをホストする microVM モデルとは異なり、1 つのインスタンスセッションで複数のエージェントをホストできます。2 つのエージェントランタイムが同じキャパシティープロバイダーを共有する場合、それらを同じ で呼び出しruntimeSessionIdて、両方のエージェントを同じ EC2 インスタンスに配置することができます。そこでは、ファイルシステムを共有し、同じタスクで共同作業できます。

マネージドインスタンスの概要

セッションをバックアップする EC2 インスタンスは Amazon EC2 マネージドインスタンス - AgentCore はユーザーに代わってアカウントでそれらをプロビジョニングして運用するため、標準の EC2 インスタンスと比較して、それらのインスタンスに対するアクセス許可が制限されます。これらは、EC2 DescribeInstances出力の Operatorフィールドとインスタンスの AgentCore キャパシティープロバイダータグで識別できます。

これらのインスタンスでは、標準の EC2 ライフサイクルオペレーションを直接実行しません。たとえば、自分でインスタンスを起動、パッチ適用、終了することはありません。AgentCore はライフサイクルを管理します。ライフサイクルを削除するには、関連するキャパシティープロバイダーを削除します。これにより、セッションとその永続的ストレージが停止および削除されます。マネージドインスタンスは、デフォルトで EC2 コンソールビューおよび API リストオペレーションから非表示になります。これは、マネージドリソースの可視性設定で変更できます。アカウントで完全に運用され、請求可能です。

コンピューティングタイプを比較する

次の表は、microVMs とインスタンスのコンピューティングタイプを比較し、ワークロードに適したコンピューティングタイプを選択するのに役立ちます。

特性 microVMs インスタンス

以下に最適:

高速に開始し、オンデマンドでスケールし、数時間以内に完了する軽量の API 駆動型エージェント

GPUs またはマルチエージェントセッションを必要とする長時間稼働、ステートフル、または共同ワークロード

管理モデル

フル AWS マネージド、サーバーレス、オンデマンドでスケーリング

AWS アカウントの マネージド EC2。永続セッションを使用してパッチ適用と更新 AWS を管理します。

最大セッション期間

最大 8 時間

最大 14 日間

オペレーティングシステム

Linux コンテナ (arm64)

Linux (x86_64 および arm64)

ネットワーク

PUBLIC または VPC

VPC

エージェントモダリティ

API、CLI

API、CLI

セッションあたりのエージェント数

1 つのランタイムが 1 つのエージェントをホストする (1:1)

1 つのセッションで複数のエージェントをホストできる (1:N)

サポートされているアーティファクト

コンテナイメージと Amazon S3 ソース

コンテナイメージと Amazon S3 ソース

GPU アクセス

サポートされていません

サポートされている GPU インスタンスタイプを選択します。ドライバーがプロビジョニングされます。

料金

AgentCore によって請求される消費ベース

EC2 インスタンスはアカウントで実行され、Savings Plans と ODCRsを使用します。

モデルとフレームワーク

いずれか

すべて

GPU インスタンスタイプを使用する

モデル推論、3D レンダリング、メディア処理などの計算負荷の高いワークロードの場合は、キャパシティープロバイダーの許可されたインスタンスタイプに GPU インスタンスタイプを含めます。AgentCore はインスタンスに GPU ドライバーをプロビジョニングするため、デバイスパス、GPU インデックス、またはドライバーバージョンを設定せず、ドライバーをバンドルせずに標準のコンテナイメージ (CUDA イメージなど) が機能します。コンピューティング (CUDA) ワークロードとグラフィックス (Vulkan、EGL、GLX など) ワークロードの両方がサポートされています。複数のエージェントが同じインスタンスで実行されている場合、すべてのエージェントは GPUs。

次の GPU およびアクセラレーターインスタンスファミリーがサポートされています。

  • NVIDIA GPU ファミリー – g4dn、g5、、g6g6e、gr6、g6fgr6f、、および g7e。

  • AWS アクセラレーターファミリー – inf2 ( AWS Inferentia2 を使用)。

サポートされていないファミリーのアクセラレーターインスタンスタイプを含めると、 はインスタンスタイプに名前を付け、サポートされているファミリーを一覧表示ValidationExceptionする でCreateCapacityProvider失敗します。アクセラレーター以外のインスタンスタイプは影響を受けません。

呼び出しフロー

キャパシティープロバイダーがサポートするエージェントランタイムの呼び出しは、microVM モデルと同じ InvokeAgentRuntime エントリポイントに従います。AgentCore はキャパシティープロバイダーを解決し、インスタンスとエージェントがセッションで実行されていることを確認し、エージェントにリクエストをプロキシします。

  1. ランタイム ARN と InvokeAgentRuntimeを使用して を呼び出しますruntimeSessionId。

  2. そのセッション ID にセッションが存在しない場合、AgentCore はアカウント内のランタイムのキャパシティープロバイダーから EC2 インスタンスをプロビジョニングし、その上でエージェントを起動します。セッションの最初の呼び出しにはインスタンスのプロビジョニングが含まれているため、時間がかかります。

  3. セッションが既に存在する場合、AgentCore は実行中のインスタンスを再使用します。同じセッション ID を持つ同じキャパシティープロバイダーを共有する 2 番目のランタイムを呼び出すと、同じインスタンスの最初の とともにそのエージェントを起動します。

  4. AgentCore はリクエストをエージェントにプロキシし、レスポンスをユーザーにストリーミングします。各エージェントは、ランタイムの実行ロールから派生した独自の IAM 認証情報で実行されます。

エージェントは アカウントのインスタンスで実行されるため、EC2 インスタンス、そのネットワークインターフェイス、および永続ボリュームはアカウントの EC2 コンソールに表示され、アカウントに請求されます。これらは Amazon EC2 マネージドインスタンス - AgentCore がユーザーに代わってアカウントでプロビジョニングおよび運用するインスタンスです。マネージドリソースの可視性設定を使用してEC2 コンソールビューと API リストオペレーションに表示されるかどうかを制御できます。

セッション間の永続的ストレージ

キャパシティプロバイダーは、1 つ以上の Amazon EBS ボリュームを定義できます。キャパシティープロバイダーを保存すると、AgentCore はボリューム設定を保存し、セッションの最初の起動時に EBS ボリュームを作成します。エージェントランタイムがストレージ設定を通じてボリュームをマウントすると、ボリュームのデータはセッション停止後も存続します。

  1. セッションの最初の呼び出し時に、AgentCore はボリュームを作成し、EC2 インスタンスにアタッチします。

  2. AgentCore がセッションを停止すると、EC2 インスタンスは終了しますが、ボリュームは保持されます。

  3. 同じ を使用した次の呼び出しでruntimeSessionId、AgentCore は新しいインスタンスをプロビジョニングし、既存のボリュームを再アタッチするため、エージェントは以前のデータをそのまま認識します。

これにより、ワークスペースファイル、キャッシュ、チェックポイントがセッションの再起動中に保持されるステートフルエージェントワークフローが可能になります。セッションを削除すると、インスタンス、ネットワークインターフェイス、EBS ボリュームなどの EC2 リソースのプロビジョニングが解除されるため、不要になったインフラストラクチャのコストの発生が停止します。

IAM ロール

インスタンスでエージェントをホストするには、エージェントコードにランタイムアクセス許可を付与するエージェントランタイム実行ロールに加えて、次のロールが必要です。

  • インスタンスプロファイル – EC2 インスタンスにアタッチされた IAM ロール。AgentCore はこれを使用してインスタンスからシステムログを収集します。エージェントコードにアクセス許可を付与しません (エージェントランタイム実行ロールが付与します)。

  • インフラストラクチャロール – アカウント内の EC2 インスタンスをユーザーに代わってプロビジョニングおよび管理するために AgentCore が引き受ける IAM ロール (インスタンスとそのネットワークインターフェイスのネットワークを起動、タグ付け、設定)。

コンソールでデフォルトのロールを作成することも、既存のロールを指定することもできます。インフラストラクチャロールは AgentCore にアカウント内のコンピューティングを管理する機能を付与するため、ワークロードに必要な最小特権の範囲を設定し、必要に応じて IAM 条件を使用して特定の VPCs、サブネット、またはインスタンスタイプに制限します。