Implementar modelos de base proprietários com a função ModelPackage

Modelos proprietários devem ser implantados usando as informações do pacote do modelo após a assinatura do modelo em AWS Marketplace. Para obter mais informações sobre o SageMaker AWS Marketplace, consulte Comprar e vender algoritmos e modelos do Amazon SageMaker em AWS Marketplace. Para encontrar links AWS Marketplace para os modelos proprietários mais recentes, consulte Introdução ao Amazon SageMaker JumpStart.

Depois de assinar o modelo de sua escolha no AWS Marketplace, você pode implantar o modelo de base usando o SageMaker Python SDK e o SDK associado ao provedor do modelo. Por exemplo, AI21 Labs, Cohere e LightOn usam os pacotes"ai21[SM]", cohere-sagemaker, e lightonsage, respectivamente.

Por exemplo, para definir um modelo JumpStart usando o Jurassic-2 Jumbo Instruct da AI21 Labs, use o código a seguir:

import sagemaker
import ai21

role = get_execution_role()
sagemaker_session = sagemaker.Session()
model_package_arn = "arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35"

my_model = ModelPackage(
    role=role, model_package_arn=model_package_arn, sagemaker_session=sagemaker_session
)

Para obter exemplos passo a passo, encontre e execute o caderno associado ao modelo de base proprietário de sua escolha no SageMaker Studio Classic. Consulte Usar modelos de base no Amazon SageMaker Studio Classic para obter mais informações. Para obter mais informações sobre o SageMaker Python SDK, consulte ModelPackage.