Implementar modelos de base proprietários com a função ModelBuilder

Modelos proprietários devem ser implantados usando as informações do pacote do modelo após a assinatura do modelo em AWS Marketplace. Para obter mais informações sobre SageMaker IA e AWS Marketplace, consulte Comprar e vender algoritmos e modelos de SageMaker IA da Amazon em AWS Marketplace. Para encontrar AWS Marketplace links para os modelos proprietários mais recentes, consulte Introdução à Amazon SageMaker JumpStart.

Depois de assinar o modelo de sua escolha em AWS Marketplace, você pode implantar o modelo básico usando o SageMaker Python SDK. Consulte o pacote do modelo inscrito por seu ARN e implante-o com. ModelBuilder

Por exemplo, o código a seguir implanta um JumpStart modelo usando o Jurassic-2 Jumbo Instruct da AI21 Labs:

from sagemaker.core.resources import ModelPackage
from sagemaker.serve import ModelBuilder

model_package_arn = "arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35"

# Reference the subscribed Marketplace model package by its ARN.
model_package = ModelPackage.get(model_package_name=model_package_arn)

# Build and deploy with ModelBuilder. Marketplace packages do not carry
# JumpStart hosting configurations, so specify an instance_type explicitly
# (choose one from the package's supported real-time inference instance types).
model_builder = ModelBuilder(
    model=model_package,
    role_arn="arn:aws:iam::123456789012:role/SageMakerExecutionRole",
    instance_type="ml.g5.12xlarge",
)
model = model_builder.build()
endpoint = model_builder.deploy()

Para obter exemplos detalhados, encontre e execute o notebook associado ao modelo de base proprietário de sua escolha no Studio Classic. SageMaker Consulte Use modelos básicos no Amazon SageMaker Studio Classic para obter mais informações. Para obter mais informações sobre o SageMaker Python SDK, consulte ModelBuilder a documentação do SageMaker Python SDK no site Read the Docs.