本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
模型來源和授權合約
Amazon SageMaker JumpStart 可讓您從第三方來源和合作夥伴存取數百個公開可用和專有的基礎模型。您可以直接在 SageMaker 主控台、Studio 或 Studio Classic 中探索 JumpStart 基礎模型選擇。
授權和模型來源
Amazon SageMaker JumpStart 提供公開可用和專有基礎模型的存取權。基礎模型由第三方開源和專屬提供商開放和維護。因此,它們會根據模型來源指定的不同授權來發行。請務必檢閱您使用的任何基礎模型的授權。在下載或使用內容之前,您有責任檢查並遵守任何適用的授權條款,並確定這些條款適用於您的使用案例。以下是一些常見基礎模型授權的例子:
-
Alexa Teacher Model
-
Apache 2.0
-
BigScience 負責任的 AI 授權 1.0 版
-
CreativeML Open RAIL++-M 授權
同樣地,對於任何專屬的基礎模型,請務必檢閱並遵守模型供應商提供的任何使用條款和使用準則。如果您對特定專屬模型的授權資訊有任何疑問,請直接聯絡模型供應商。您可以在 AWS Marketplace中每個模型頁面的支援標籤中找到模型提供者聯絡資訊。
終端使用者授權協議
某些 JumpStart 基礎模型在使用前需要明確接受最終使用者授權合約 (EULA)。
EULA 在 Amazon SageMaker Studio 中接受
在 Studio 中微調、部署或評估 JumpStart 基礎模型之前,系統可能會提示您接受最終使用者授權合約。若要開始使用 Studio 中的 JumpStart 基礎模型,請參閱 在 Studio 中使用基礎模型。
重要
截至 2023 年 11 月 30 日,先前的 Amazon SageMaker Studio 體驗現在已命名為 Amazon SageMaker Studio Classic。以下章節是使用更新後的 Studio 體驗的特定部分。如需有關使用 Studio Classic 應用程式的資訊,請參閱 Amazon SageMaker Studio Classic。
某些 JumpStart 基礎模型需要在部署之前接受最終使用者授權合約。如果這適用於您選擇使用的基礎模型,Studio 會提示您包含EULA內容的視窗。在下載或使用模型之前,您有責任審查並遵守任何適用的授權條款,並確保這些條款適用於您的使用案例。
EULA 在 Amazon SageMaker Studio Classic 中接受
在 Studio Classic 中部署 JumpStart 基礎模型或開啟 JumpStart 基礎模型筆記本之前,系統可能會提示您接受最終使用者授權合約。若要開始使用 Studio Classic 中的 JumpStart 基礎模型,請參閱 在 Amazon SageMaker Studio Classic 中使用基礎模型。
重要
截至 2023 年 11 月 30 日,先前的 Amazon SageMaker Studio 體驗現在已命名為 Amazon SageMaker Studio Classic。以下章節是使用 Studio Classic 應用程式的特定部分。如需使用更新 Studio 體驗的相關資訊,請參閱 Amazon SageMaker Studio。
某些 JumpStart 基礎模型需要在部署之前接受最終使用者授權合約。如果這適用於您選擇使用的基礎模型,Studio Classic 會在您選擇部署或開啟筆記本 之後,提示您有一個名為檢閱下列使用者授權合約 (EULA) 和可接受的使用政策 (AUP) 的視窗。在下載或使用模型之前,您有責任審查並遵守任何適用的授權條款,並確保這些條款適用於您的使用案例。
EULA 接受 SageMaker Python SDK
下列各節說明如何在使用 部署或微調 JumpStart 模型時明確宣告EULA接受 SageMaker Python SDK。如需使用 開始使用 JumpStart 基礎模型的詳細資訊 SageMaker Python SDK,請參閱 搭配 使用基礎模型 SageMaker Python SDK。
在開始之前,請確定您執行下列動作:
-
升級至您使用的最新版本模型。
-
安裝最新版本的 SageMaker Python SDK.
重要
若要使用下列工作流程,您必須具有 2.198.0
EULA 部署 JumpStart 模型時接受
對於需要接受最終使用者授權合約的模型,您必須在部署模型 JumpStart時明確宣告EULA接受。
from sagemaker.jumpstart.model import JumpStartModel model_id =
"meta-textgeneration-llama-2-13b"
my_model = JumpStartModel(model_id=model_id) # Declare EULA acceptance when deploying your JumpStart model predictor = my_model.deploy(accept_eula=True
)
依預設,此 accept_eula
值 為 None
,且必須明確地重新定義為 True
,才能接受終端使用者授權協議。如需詳細資訊,請參閱 JumpStartModel
EULA 微調 JumpStart 模型時的接受度
對於需要接受最終使用者授權合約的微調模型,您必須在定義 JumpStart 估算器時明確宣告EULA接受。微調預先訓練的模型後,原始模型的權重會變更。因此,當您稍後部署微調後的模型時,您不需要接受 EULA。
from sagemaker.jumpstart.estimator import JumpStartEstimator model_id =
"meta-textgeneration-llama-2-13b"
# Declare EULA acceptance when defining your JumpStart estimator estimator = JumpStartEstimator(model_id=model_id, environment={"accept_eula": "true"}) estimator.fit( {"train": training_dataset_s3_path, "validation": validation_dataset_s3_path} )
此accept_eula
值None
預設為 ,且必須明確重新定義為在"true"
估算器環境中,才能接受最終使用者授權合約。如需詳細資訊,請參閱 JumpStartEstimator
EULA 接受 SageMaker Python SDK 2.198.0 之前的版本
重要
使用 2.198.0Predictor
類別來接受模型 EULA。
使用 以程式設計方式部署 JumpStart 基礎模型之後 SageMaker Python SDK,您可以使用 類別針對已部署的 SageMaker Predictor
端點執行推論。對於需要接受最終使用者授權合約的模型,您必須在呼叫Predictor
類別中明確宣告EULA接受:
predictor.predict(payload, custom_attributes="accept_eula=true")
依預設,此 accept_eula
值 為 false
,且必須明確地重新定義為 true
,才能接受終端使用者授權協議。如果您嘗試在 accept_eula
設定為 時執行推論,預測器會傳回錯誤false
。如需使用 開始使用 JumpStart 基礎模型的詳細資訊 SageMaker Python SDK,請參閱 搭配 使用基礎模型 SageMaker Python SDK。
重要
custom_attributes
參數接受格式為 的鍵值對"key1=value1;key2=value2"
。如果您多次使用相同的鍵,推論伺服器會使用與鍵相關聯的最後一個值。例如,如果您傳遞 "accept_eula=false;accept_eula=true"
給 custom_attributes
參數,則推論伺服器會將值 true
與 accept_eula
鍵產生關聯。