Inferência do Amazon Bedrock.

Depois de treinar e testar seu modelo do Amazon Nova, você poderá implantá-lo no Amazon Bedrock para inferência em escala de produção. O processo de implantação envolve a criação de um modelo do Amazon Bedrock com a API CreateCustomModel, a exportação dos artefatos do seu modelo de um bucket gerenciado do Amazon S3 e, quando o modelo estiver ATIVO, a configuração de um endpoint com inferência de throughput sob demanda ou provisionada.

Você também pode usar o Amazon Nova Forge SDK para implantar modelos personalizados do Amazon Nova. O Amazon Nova Forge SDK fornece uma experiência simplificada para extrair as informações relevantes de uma tarefa de treinamento ou de um ponto de verificação do modelo do S3 e publicá-los no Amazon Bedrock. Para obter mais informações, consulte Amazon Nova Forge SDK.

Para obter as etapas detalhadas para configurar a inferência do Amazon Bedrock para um modelo personalizado, consulte a seção a seguir.