View a markdown version of this page

Testen von Modellen mit Schattenvarianten - Amazon SageMaker KI
Stellen Sie Schattenvarianten bereit

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Testen von Modellen mit Schattenvarianten

Sie können SageMaker AI Model Shadow Deployments verwenden, um Shadow-Varianten mit langer Laufzeit zu erstellen, um jede neue Kandidatenkomponente Ihres Model-Serving-Stacks zu validieren, bevor Sie sie in die Produktion überführen. Das folgende Diagramm zeigt, wie dies im Detail funktioniert.

Details einer Schattenvariante.

Stellen Sie Schattenvarianten bereit

Das folgende Codebeispiel veranschaulicht, wie Sie eine Schattenvariante programmgesteuert bereitstellen können. Ersetzen Sie die user placeholder text im Beispiel durch Ihre eigenen Informationen.

  1. Erstellen Sie zwei SageMaker KI-Modelle: eines für Ihre Produktionsvariante und eines für Ihre Schattenvariante. 

    import boto3
from sagemaker.core.helper.session_helper import get_execution_role, Session
                
aws_region = "aws-region"

boto_session = boto3.Session(region_name=aws_region)
sagemaker_client = boto_session.client("sagemaker")

role = get_execution_role()

bucket = Session(boto_session).default_bucket()

model_name1 = "name-of-your-first-model"
model_name2 = "name-of-your-second-model"

sagemaker_client.create_model(
    ModelName = model_name1,
    ExecutionRoleArn = role,
    Containers=[
        {
            "Image": "ecr-image-uri-for-first-model",
            "ModelDataUrl": "s3-location-of-trained-first-model" 
        }
    ]
)

sagemaker_client.create_model(
    ModelName = model_name2,
    ExecutionRoleArn = role,
    Containers=[
        {
            "Image": "ecr-image-uri-for-second-model",
            "ModelDataUrl": "s3-location-of-trained-second-model" 
        }
    ]
)

  2. Erstellen einer Endpunktkonfiguration. Geben Sie in der Konfiguration sowohl Ihre Produktions- als auch Ihre Schattenvarianten an. 

    endpoint_config_name = name-of-your-endpoint-config

create_endpoint_config_response = sagemaker_client.create_endpoint_config(
    EndpointConfigName=endpoint_config_name,
    ProductionVariants=[
        {
            "VariantName": name-of-your-production-variant,
            "ModelName": model_name1,
            "InstanceType": "ml.m5.xlarge",
            "InitialInstanceCount": 1,
            "InitialVariantWeight": 1,
        }
    ],
    ShadowProductionVariants=[
        {
            "VariantName": name-of-your-shadow-variant,
            "ModelName": model_name2,
            "InstanceType": "ml.m5.xlarge",
            "InitialInstanceCount": 1,
            "InitialVariantWeight": 1,
        }
   ]
)

  3. Endpunkt herstellen.

    create_endpoint_response = sm.create_endpoint(
    EndpointName=name-of-your-endpoint,
    EndpointConfigName=endpoint_config_name,
)