翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

非同期推論

Amazon SageMaker 非同期推論は、受信リクエストをキューに入れ、非同期的に処理 SageMaker する の機能です。このオプションは、ペイロードサイズが大きく (最大 1 GB)、処理時間が長い (最大 1 時間)、ほぼリアルタイムのレイテンシー要件があるリクエストに最適です。非同期推論では、処理するリクエストがない場合、インスタンスカウントをゼロにオートスケーリングすることによりコストを節約できるため、エンドポイントがリクエストを処理している場合にのみ料金が発生します。

仕組み

非同期推論エンドポイントの作成は、リアルタイムの推論エンドポイントの作成に似ています。既存の SageMaker モデルを使用でき、CreateEndpointConfigAPI の EndpointConfigフィールドを使用してエンドポイント設定を作成するときにのみ AsyncInferenceConfig オブジェクトを指定する必要があります。次の図は、非同期推論のアーキテクチャとワークフローを示しています。

エンドポイントを呼び出すには、リクエストペイロードを Amazon S3 に配置する必要があります。また、InvokeEndpointAsyncリクエストの一部としてこのペイロードへのポインタを指定する必要があります。呼び出し時に、 は処理リクエストを SageMaker キューに入れ、識別子と出力場所をレスポンスとして返します。処理時に、 は結果を Amazon S3 の場所 SageMaker に配置します。成功またはエラー通知を Amazon SNS で受け取るようにオプションで選択することもできます。非同期通知の設定方法の詳細については、「予測結果をチェックする」を参照してください。

使用を開始する方法をお知りになりたいですか?

Amazon SageMaker 非同期推論を初めて使用する場合は、次の操作を行うことをお勧めします。

この Exclusions ページにリストされているいずれかの機能をエンドポイントで使用する場合は、非同期推論を使用できないことにご注意ください。