Amazon Bedrock 推論

Amazon Nova モデルをトレーニングしてテストしたら、本番環境の推論のために Amazon Bedrock にデプロイできます。デプロイプロセスでは、CreateCustomModel API を使用して Amazon Bedrock モデルを作成し、マネージド Amazon S3 バケットからモデルアーティファクトをエクスポートします。モデルのステータスが ACTIVE になった後、オンデマンドまたはプロビジョンドスループット推論を使用してエンドポイントを設定します。

SageMaker Python SDK を使用して、カスタマイズされた Amazon Nova モデルを Amazon Bedrock オンデマンドまたは SageMaker AI リアルタイム推論エンドポイントにデプロイすることもできます。詳細については「SageMaker Python SDK を使用したカスタマイズ」を参照してください。

カスタムモデルの Amazon Bedrock 推論をセットアップする詳細な手順については、以下のセクションを参照してください。