모델 소스 및 라이선스 계약

Amazon SageMaker JumpStart는 타사 소스 및 파트너가 제공하는 수백 개의 공개적으로 사용 가능한 독점 파운데이션 모델에 대한 액세스를 제공합니다. SageMaker 콘솔, Studio 또는 Studio Classic에서 직접 JumpStart 파운데이션 모델 선택을 탐색할 수 있습니다.

라이선스 및 모델 소스

Amazon SageMaker JumpStart는 공개적으로 사용 가능한 파운데이션 모델과 독점 파운데이션 모델 모두에 대한 액세스를 제공합니다. 파운데이션 모델은 타사 오픈 소스 및 독점 공급자로부터 온보딩되고 유지 관리됩니다. 따라서 모델 소스에서 지정한 대로 다른 라이선스로 출시됩니다. 사용하는 모든 파운데이션 모델의 라이선스를 반드시 검토하세요. 콘텐츠를 다운로드하거나 사용하기 전에 해당 라이선스 조건을 검토 및 준수하고 사용 사례에 적합한지 확인해야 합니다. 다음은 몇 가지 일반적인 파운데이션 모델 라이선스의 예입니다.

마찬가지로 모든 독점 파운데이션 모델의 경우 모델 공급자의 사용 약관 및 사용 지침을 검토하고 준수해야 합니다. 특정 독점 모델의 라이선스 정보에 대해 질문이 있는 경우 모델 공급자에 직접 문의하세요. AWS Marketplace의 각 모델 페이지의 지원 탭에서 모델 공급자 연락처 정보를 찾을 수 있습니다.

최종 사용자 라이선스 계약

사용 전 일부 JumpStart 파운데이션 모델은 배포 전에 EULA(최종 사용자 라이선스 계약)을 명시적으로 수락해야 합니다.

Amazon SageMaker Studio에서의 EULA 수락

Studio에서 JumpStart 파운데이션 모델을 미세 조정, 배포 또는 평가하기 전에 최종 사용자 라이선스 계약을 수락하라는 메시지가 표시될 수 있습니다. Studio에서 JumpStart 파운데이션 모델을 시작하려면 Studio에서 파운데이션 모델 사용 섹션을 참조하세요.

일부 JumpStart 파운데이션 모델은 배포 전에 최종 사용자 라이선스 계약을 수락해야 합니다. 사용하려는 파운데이션 모델에 적용되는 경우 Studio는 EULA 콘텐츠가 포함된 창을 표시합니다. 사용자는 모델을 다운로드하거나 사용하기 전에 해당 라이선스 조건을 검토 및 준수하고 사용 사례에 적합한지 확인해야 합니다.

Amazon SageMaker Studio Classic에서의 EULA 수락

Studio Classic에서 JumpStart 파운데이션 모델을 배포하거나 JumpStart 파운데이션 모델 노트북을 열기 전에 최종 사용자 라이선스 계약을 수락하라는 메시지가 표시될 수 있습니다. Studio Classic에서 JumpStart 파운데이션 모델을 시작하려면 Amazon SageMaker Studio Classic에서 파운데이션 모델 사용를 참조하세요.

일부 JumpStart 파운데이션 모델은 배포 전에 최종 사용자 라이선스 계약을 수락해야 합니다. 이것이 사용하기로 선택한 기본 모델에 적용되는 경우, 배포 또는 노트북 열기를 선택하면 Studio Classic에서 아래에 최종 사용자 라이선스 계약(EULA) 및 사용 목적 제한 정책(AUP) 검토라는 제목의 창이 나타납니다. 사용자는 모델을 다운로드하거나 사용하기 전에 해당 라이선스 조건을 검토 및 준수하고 사용 사례에 적합한지 확인해야 합니다.

SageMaker Python SDK를 사용한 EULA 승인

다음 섹션에서는 SageMaker Python SDK를 사용하여 JumpStart 모델을 배포하거나 미세 조정할 때 EULA 수락을 명시적으로 선언하는 방법을 보여줍니다. SageMaker Python SDK를 사용하여 JumpStart 파운데이션 모델을 시작하는 방법에 대한 자세한 내용은 SageMaker Python SDK로 파운데이션 모델 사용 섹션을 참조하세요.

시작하기 전에 다음을 수행했는지 확인합니다.

JumpStart 모델 배포 시 EULA 수락

최종 사용자 라이선스 계약의 승인이 필요한 모델의 경우 JumpStart 모델 배포 시 EULA 수락을 명시적으로 선언해야 합니다.

from sagemaker.jumpstart.model import JumpStartModel
model_id = "meta-textgeneration-llama-2-13b"
my_model = JumpStartModel(model_id=model_id)

# Declare EULA acceptance when deploying your JumpStart model
predictor = my_model.deploy(accept_eula=True)

accept_eula 값은 기본적으로 None이며 최종 사용자 라이선스 계약을 승인하려면 True로 명시적으로 재정의되어야 합니다. 자세한 내용은 JumpStartModel 참조하세요.

JumpStart 모델을 미세 조정할 때 EULA 수락

최종 사용자 라이선스 계약의 승인이 필요한 모델 미세 조정의 경우 JumpStart 예측기 정의 시 EULA 수락을 명시적으로 선언해야 합니다. 사전 학습된 모델을 미세 조정하면 원래 모델의 가중치가 변경됩니다. 따라서 나중에 미세 조정된 모델을 배포할 때는 EULA를 수락할 필요가 없습니다.

from sagemaker.jumpstart.estimator import JumpStartEstimator
model_id = "meta-textgeneration-llama-2-13b"

# Declare EULA acceptance when defining your JumpStart estimator
estimator = JumpStartEstimator(model_id=model_id, environment={"accept_eula": "true"})
estimator.fit(
{"train": training_dataset_s3_path, "validation": validation_dataset_s3_path}
)

accept_eula 값은 기본적으로 None이며 최종 사용자 라이선스 계약을 승인하려면 예측기 환경 내에서 "true"로 명시적으로 재정의되어야 합니다. 자세한 내용은 JumpStartEstimator를 참조하세요.

EULA 수락 SageMaker Python SDK 버전 2.198.0 이전

SageMaker Python SDK를 사용하여 프로그래밍 방식으로 JumpStart 파운데이션 모델을 배포한 후 SageMaker 클래스를 사용하여 배포된 엔드포인트에 대해 추론을 실행할 수 있습니다. 최종 사용자 라이선스 계약의 승인이 필요한 모델의 경우 Predictor 클래스 호출 시 EULA 수락을 명시적으로 선언해야 합니다.

predictor.predict(payload, custom_attributes="accept_eula=true")

accept_eula 값은 기본적으로 false이며 최종 사용자 라이선스 계약을 승인하려면 true로 명시적으로 재정의되어야 합니다. accept_eula이 false로 설정된 동안 추론을 실행하려고 하면 예측자는 오류를 반환합니다. SageMaker Python SDK를 사용하여 JumpStart 파운데이션 모델을 시작하는 방법에 대한 자세한 내용은 SageMaker Python SDK로 파운데이션 모델 사용 섹션을 참조하세요.