ModelPackage 클래스와 함께 독점 파운데이션 모델 배포

독점 모델은 AWS Marketplace에서 모델을 구독한 후 모델 패키지 정보를 사용하여 배포해야 합니다. SageMaker 및 에 대한 자세한 내용은 의 Amazon 알고리즘 및 모델 구매 및 판매를 AWS Marketplace참조하세요. SageMaker AWS Marketplace 최신 독점 모델에 대한 AWS Marketplace 링크를 찾으려면 Amazon 시작하기를 참조하세요 SageMaker JumpStart.

에서 선택한 모델을 구독한 후 AWS Marketplace를 사용하여 파운데이션 모델을 배포할 수 있습니다. SageMaker Python SDK 및 모델 공급자와 SDK 연결된 . 예를 들어 AI21 Labs, Cohere 및 는 각각 "ai21[SM]", cohere-sagemaker및 lightonsage 패키지를 LightOn 사용합니다.

예를 들어 AI21 Labs의 Jurassic-2 Jumbo Instruct를 사용하여 JumpStart 모델을 정의하려면 다음 코드를 사용합니다.

import sagemaker
import ai21

role = get_execution_role()
sagemaker_session = sagemaker.Session()
model_package_arn = "arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35"

my_model = ModelPackage(
    role=role, model_package_arn=model_package_arn, sagemaker_session=sagemaker_session
)

예를 step-by-step 들어 SageMaker Studio Classic에서 선택한 독점 파운데이션 모델과 연결된 노트북을 찾아 실행합니다. 자세한 내용은 Amazon SageMaker Studio Classic에서 파운데이션 모델 사용 섹션을 참조하세요. 에 대한 자세한 내용은 SageMaker Python SDK를 참조하세요ModelPackage.