本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
来源和许可协议范本
Amaz SageMaker JumpStart on 允许访问来自第三方来源和合作伙伴的数百种公开和专有的基础模型。您可以直接在 SageMaker 控制台、Studio 或 Studio Classic 中浏览 JumpStart 基础模型选择。
许可证和模型来源
Amazon SageMaker JumpStart 提供对公开和专有基础模型的访问权限。基础模型由第三方开源和专有提供商载入和维护。因此,它们在根据模型来源指定的不同许可证下发布。请确保检查您使用的任何基础模型的许可证。在下载或使用内容之前,您有责任查看和遵守任何适用的许可证条款,并确保您的使用案例可以接受这些条款。常见基础模型许可证的一些示例包括:
-
Alexa Teacher Model
-
Apache 2.0
-
BigScience 负责任的人工智能许可证 v1.0
-
CreativeML Open RAIL ++-M 许可证
同样,对于任何专有基础模型,请确保查看并遵守模型提供商的任何使用条款和使用指南。如果您对特定专有模型的许可证信息有疑问,请直接联系模型提供商。在 AWS Marketplace中,您可以在每个模型的支持选项卡中找到模型提供商的联系信息。
最终用户许可协议
某些 JumpStart 基础模型要求在使用前明确接受最终用户许可协议 (EULA)。
EULA亚马逊工作 SageMaker 室接受
在 Studio 中微调、部署或评估 JumpStart 基础模型之前,系统可能会提示您接受最终用户许可协议。要开始使用 Studio 中的 JumpStart 基础模型,请参阅在 Studio 中使用基础模型。
重要
截至 2023 年 11 月 30 日,之前的亚马逊 SageMaker Studio 体验现在被命名为 Amazon St SageMaker udio Classic。以下部分专门介绍如何使用更新后的 Studio 体验。有关使用 Studio Classic 应用程序的信息,请参见亚马逊 SageMaker Studio 经典版。
某些 JumpStart 基础模型要求在部署之前接受最终用户许可协议。如果这适用于您选择使用的基础模型,Studio 会提示您显示一个包含EULA内容的窗口。在下载或使用模型之前,您有责任查看和遵守任何适用的许可证条款,并确保您的使用案例可以接受这些条款。
EULA亚马逊 SageMaker Studio 经典版中被接受
在 Studio Classic 中部署 JumpStart 基础模型或打开基础型号笔记本电脑之前, JumpStart 系统可能会提示您接受最终用户许可协议。要开始使用 Studio Classic 中的 JumpStart 基础模型,请参阅在 Amazon SageMaker Studio 经典版中使用基础模型。
重要
截至 2023 年 11 月 30 日,之前的亚马逊 SageMaker Studio 体验现在被命名为 Amazon St SageMaker udio Classic。以下部分专门介绍如何使用 Studio Classic 应用程序。有关使用更新后的 Studio 体验的信息,请参阅亚马逊 SageMaker Studio。
某些 JumpStart 基础模型要求在部署之前接受最终用户许可协议。如果这适用于您选择使用的基础模型,则在您选择 “部署” 或 “打开笔记本” 之后,Studio Classic 会在下面显示一个标题为 “查看最终用户许可协议” (EULAAUP) 和 “可接受使用政策 ()” 的窗口。在下载或使用模型之前,您有责任查看和遵守任何适用的许可证条款,并确保您的使用案例可以接受这些条款。
EULA接受 SageMaker Python SDK
以下各节介绍在部署模型或使用模型微调 JumpStart 模型时如何明确声明EULA接受 SageMaker Python SDK。有关开始使用 JumpStart 基础模型的更多信息,请使用 SageMaker Python SDK,请参阅将基础模型与 SageMaker Python SDK。
在开始之前,请确保完成了以下操作:
-
升级到您使用的模型的最新版本。
-
安装最新版本的 SageMaker Python SDK.
重要
要使用以下工作流程,您必须拥有 v2.198.0
EULA部署 JumpStart 模型时接受
对于需要接受最终用户许可协议的模型,您必须在部署 JumpStart模型时明确声明EULA接受。
from sagemaker.jumpstart.model import JumpStartModel model_id =
"meta-textgeneration-llama-2-13b"
my_model = JumpStartModel(model_id=model_id) # Declare EULA acceptance when deploying your JumpStart model predictor = my_model.deploy(accept_eula=True
)
默认情况下 accept_eula
的值为 None
,并且必须明确重新定义为 True
以接受最终用户许可协议。有关更多信息,请参阅JumpStartModel
EULA微调模型时接受 JumpStart
对于需要接受最终用户许可协议的微调模型,您必须在定义 JumpStart 估算器时明确声明EULA接受。对预训练模型进行微调后,原始模型的权重会发生变化。因此,稍后部署经过微调的模型时,无需接受。EULA
from sagemaker.jumpstart.estimator import JumpStartEstimator model_id =
"meta-textgeneration-llama-2-13b"
# Declare EULA acceptance when defining your JumpStart estimator estimator = JumpStartEstimator(model_id=model_id, environment={"accept_eula": "true"}) estimator.fit( {"train": training_dataset_s3_path, "validation": validation_dataset_s3_path} )
该accept_eula
值是None
默认值,必须像"true"
在估算器环境中那样明确重新定义才能接受最终用户许可协议。有关更多信息,请参阅JumpStartEstimator
EULA接受 SageMaker Python SDK低于 2.198.0 的版本
重要
当使用低于 2.198.Predictor
类才能接受模型EULA。
使用编程方式部署 JumpStart 基础模型后 SageMaker Python SDK,您可以使用 SageMaker Predictor
类对已部署的终端节点进行推理。对于需要接受最终用户许可协议的型号,您必须在致电同Predictor
类产品时明确声明EULA接受:
predictor.predict(payload, custom_attributes="accept_eula=true")
默认情况下 accept_eula
的值为 false
,并且必须明确重新定义为 true
以接受最终用户许可协议。如果您尝试在设置为时运行推理,则预测变量会返回错误。accept_eula
false
有关开始使用 JumpStart 基础模型的更多信息,请使用 SageMaker Python SDK,请参阅将基础模型与 SageMaker Python SDK。
重要
该custom_attributes
参数接受格式为的键值对。"key1=value1;key2=value2"
如果您多次使用同一个键,则推理服务器将使用与该键关联的最后一个值。例如,如果您将 "accept_eula=false;accept_eula=true"
传递给 custom_attributes
参数,则推理服务器会将值 true
与 accept_eula
键相关联。