Implementazione di modelli di fondazione proprietari con la classe ModelBuilder

I modelli proprietari devono essere distribuiti utilizzando le informazioni del pacchetto del modello dopo la sottoscrizione al modello in Marketplace AWS. Per ulteriori informazioni sull' SageMaker intelligenza artificiale e Marketplace AWS, consulta Acquista e vendi algoritmi e modelli di SageMaker intelligenza artificiale di Amazon in. Marketplace AWS Per trovare Marketplace AWS i link ai modelli proprietari più recenti, consulta Guida introduttiva ad Amazon. SageMaker JumpStart

Dopo esserti abbonato al modello di tua scelta in Marketplace AWS, puoi implementare il modello di base utilizzando l'SDK. SageMaker Python Fai riferimento al pacchetto del modello sottoscritto tramite il relativo ARN e distribuiscilo con. ModelBuilder

Ad esempio, il codice seguente implementa un JumpStart modello utilizzando Jurassic-2 Jumbo Instruct di AI21 Labs:

from sagemaker.core.resources import ModelPackage
from sagemaker.serve import ModelBuilder

model_package_arn = "arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35"

# Reference the subscribed Marketplace model package by its ARN.
model_package = ModelPackage.get(model_package_name=model_package_arn)

# Build and deploy with ModelBuilder. Marketplace packages do not carry
# JumpStart hosting configurations, so specify an instance_type explicitly
# (choose one from the package's supported real-time inference instance types).
model_builder = ModelBuilder(
    model=model_package,
    role_arn="arn:aws:iam::123456789012:role/SageMakerExecutionRole",
    instance_type="ml.g5.12xlarge",
)
model = model_builder.build()
endpoint = model_builder.deploy()

Per esempi dettagliati, trova ed esegui il notebook associato al modello di base proprietario di tua scelta in Studio Classic. SageMaker Per ulteriori informazioni, consulta Usa i modelli base in Amazon Studio Classic SageMaker. Per ulteriori informazioni sull' SageMaker PythonSDK, consulta la documentazione SDK sul ModelBuilder sito Web SageMaker Python Read the Docs.