View a markdown version of this page

Bereitstellen proprietärer Basismodelle mit der ModelBuilder-Klasse - Amazon SageMaker KI

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Bereitstellen proprietärer Basismodelle mit der ModelBuilder-Klasse

Proprietäre Modelle müssen nach dem Abonnieren des Modells in AWS Marketplace unter Verwendung der Modellpaketinformationen bereitgestellt werden. Weitere Informationen zu SageMaker KI und AWS Marketplace finden Sie unter Kaufen und Verkaufen von Amazon SageMaker KI-Algorithmen und -Modellen in AWS Marketplace. AWS Marketplace Links zu den neuesten proprietären Modellen finden Sie unter Erste Schritte mit Amazon SageMaker JumpStart.

Nachdem Sie das Modell Ihrer Wahl in abonniert haben AWS Marketplace, können Sie das Foundation-Modell mithilfe des SageMaker Python SDK bereitstellen. Verweisen Sie anhand seines ARN auf das abonnierte Modellpaket und stellen Sie es mit bereit. ModelBuilder

Der folgende Code stellt beispielsweise ein JumpStart Modell mithilfe von Jurassic-2 Jumbo Instruct von AI21 Labs bereit:

from sagemaker.core.resources import ModelPackage
from sagemaker.serve import ModelBuilder

model_package_arn = "arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35"

# Reference the subscribed Marketplace model package by its ARN.
model_package = ModelPackage.get(model_package_name=model_package_arn)

# Build and deploy with ModelBuilder. Marketplace packages do not carry
# JumpStart hosting configurations, so specify an instance_type explicitly
# (choose one from the package's supported real-time inference instance types).
model_builder = ModelBuilder(
    model=model_package,
    role_arn="arn:aws:iam::123456789012:role/SageMakerExecutionRole",
    instance_type="ml.g5.12xlarge",
)
model = model_builder.build()
endpoint = model_builder.deploy()

Beispiele für Schritt finden Sie, wenn Sie das Notebook, das dem proprietären Basismodell Ihrer Wahl zugeordnet ist, in Studio Classic suchen und ausführen. SageMaker Weitere Informationen finden Sie unter Verwenden Sie Basismodelle in Amazon SageMaker Studio Classic. Weitere Informationen zum SageMaker Python SDK finden Sie ModelBuilder in der SageMaker Python SDK-Dokumentation auf der Read the Docs-Website.