Amazon Bedrock 推理

在完成 Amazon Nova 模型的训练与测试后，您可将其部署到 Amazon Bedrock 以实现生产级规模的推理。部署流程包括：通过 CreateCustomModel API 创建 Amazon Bedrock 模型，将模型构件从托管的 Amazon S3 存储桶导出到该模型；待模型状态变为 ACTIVE 后，配置支持按需推理或预置吞吐量推理的端点。

您也可以使用 SageMaker Python SDK 将自定义的 Amazon Nova 模型部署到 Amazon Bedrock 按需推理或 SageMaker AI 实时推理端点。有关更多信息，请参阅使用 SageMaker Python SDK 进行自定义。

有关为自定义模型配置 Amazon Bedrock 推理的详细步骤，请参见下文章节。