モデルソースとライセンス契約
Amazon SageMaker JumpStart では、サードパーティーのソースやパートナーが提供する、数百もの公開されている基盤モデルや独自の基盤モデルへのアクセスが提供されています。JumpStart 基盤モデルの選択肢は、SageMaker コンソール、Studio、または Studio Classic で直接調べることができます。
ライセンスとモデルソース
Amazon SageMaker JumpStart では、公開されている基盤モデルと独自基盤モデルの両方へのアクセスを提供しています。基盤モデルは、サードパーティーのオープンソースプロバイダーや独自プロバイダーからオンボードされ、維持されています。そのため、モデルソースが指定した異なるライセンスでリリースされます。使用する基盤モデルのライセンスを必ず確認してください。コンテンツをダウンロードしたり使用したりする前に、適用されるライセンス条項を確認し、準拠して自身のユースケースで使用できるかどうかを確認してください。一般的な基盤モデルライセンスの例としては、次のものがあります。
-
Alexa Teacher Model
-
Apache 2.0
-
BigScience Responsible AI ライセンス v1.0
-
CreativeML Open RAIL++-M ライセンス
同様に、独自基盤モデルについては、モデルプロバイダーが提供している利用規約や使用ガイドラインを必ず確認し、遵守してください。特定の独自モデルのライセンス情報について質問がある場合は、モデルプロバイダーに直接お問い合わせください。モデルプロバイダーの連絡先情報は、AWS Marketplace の各モデルページのサポ-トタブにあります。
エンドユーザーライセンス契約
一部の JumpStart 基盤モデルでは、使用前にエンドユーザーライセンス契約 (EULA) に明示的に同意する必要があります。
Amazon SageMaker Studio での EULA の受諾
Studio で JumpStart 基盤モデルをファインチューニング、デプロイ、評価する前に、エンドユーザーライセンス契約への同意を求められる場合があります。Studio で JumpStart 基盤モデルの使用を開始するには、「Studio で基盤モデルを使用する」を参照してください。
重要
2023 年 11 月 30 日以降、従来の Amazon SageMaker Studio のエクスペリエンスは Amazon SageMaker Studio Classic と名前が変更されました。以下のセクションは、更新後の Studio のエクスペリエンスに沿った内容になっています。Studio Classic アプリケーションを使用する場合は、「Amazon SageMaker Studio Classic」を参照してください。
一部の JumpStart 基盤モデルでは、デプロイ前にエンドユーザーライセンス契約の受諾が必要です。使用する基盤モデルがこれに該当する場合は、Studio で EULA の内容を表示したウィンドウが開きます。モデルをダウンロードしたり使用したりする前に、適用されるライセンス条項を確認し、準拠して自身のユースケースで使用できるかどうかを確認してください。
Amazon SageMaker Studio Classic で EULA に同意する
Studio Classic で JumpStart 基盤モデルをデプロイする前や、JumpStart 基盤モデルのノートブックを開く前に、エンドユーザーライセンス契約への同意を求められる場合があります。Studio Classic での JumpStart 基盤モデルの使用方法については、「Amazon SageMaker Studio Classic で基盤モデルを使用する」を参照してください。
重要
2023 年 11 月 30 日以降、従来の Amazon SageMaker Studio のエクスペリエンスは Amazon SageMaker Studio Classic と名前が変更されました。以下のセクションは、Studio Classic アプリケーションの使用を前提とした内容です。更新後の Studio エクスペリエンスを使用する場合は、「Amazon SageMaker Studio」を参照してください。
一部の JumpStart 基盤モデルでは、デプロイ前にエンドユーザーライセンス契約の受諾が必要です。使用する基盤モデルがこれに該当する場合、Studio Classic では [デプロイ] または [ノートブックを開く] のいずれかを選択した後に、[以下のエンドユーザーライセンス契約 (EULA) と適正利用規定 (AUP) の確認] というタイトルのウィンドウが表示されます。モデルをダウンロードしたり使用したりする前に、適用されるライセンス条項を確認し、準拠して自身のユースケースで使用できるかどうかを確認してください。
SageMaker Python SDK で EULA に同意する
以下のセクションでは、SageMaker Python SDK を使用して JumpStart モデルをデプロイまたはファインチューニングする際に、EULA への同意を明示的に宣言する方法を説明します。SageMaker Python SDK を使って JumpStart 基盤モデルを使用する方法については、「SageMaker Python SDK で基盤モデルを使用する」を参照してください。
始める前に、次のことを確認してください。
-
使用したいモデルの最新バージョンにアップグレードする。
-
SageMaker Python SDK の最新バージョンをインストールする。
重要
次のワークフローを使用するには、SageMaker Python SDK の v2.198.0
JumpStart モデルのデプロイ時に EULA に同意する
エンドユーザーライセンス契約への同意が必要なモデルの場合は、JumpStart モデルをデプロイする際に、EULA への同意を明示的に宣言する必要があります。
from sagemaker.jumpstart.model import JumpStartModel model_id =
"meta-textgeneration-llama-2-13b"
my_model = JumpStartModel(model_id=model_id) # Declare EULA acceptance when deploying your JumpStart model predictor = my_model.deploy(accept_eula=True
)
accept_eula
値はデフォルトでは None
であり、エンドユーザーライセンス契約を受諾するには明示的に True
として再定義する必要があります。詳細については、「JumpStartModel
JumpStart モデルのファインチューニング時に EULA に同意する
エンドユーザーライセンス契約への同意が必要なモデルをファインチューニングする場合は、JumpStart 推定器を定義する際に、EULA への同意を明示的に宣言する必要があります。事前トレーニング済みモデルをファインチューニングすると、元のモデルの重みが変更されます。そのため、ファインチューニング済みのモデルを後からデプロイする際には、EULA への同意は不要です。
from sagemaker.jumpstart.estimator import JumpStartEstimator model_id =
"meta-textgeneration-llama-2-13b"
# Declare EULA acceptance when defining your JumpStart estimator estimator = JumpStartEstimator(model_id=model_id, environment={"accept_eula": "true"}) estimator.fit( {"train": training_dataset_s3_path, "validation": validation_dataset_s3_path} )
accept_eula
のデフォルト値は None
です。エンドユーザーライセンス契約に同意するには、推定器の環境内で明示的に "true"
として再定義する必要があります。詳細については、「JumpStartEstimator
2.198.0 より前のバージョンの SageMaker Python SDK で EULA に同意する
重要
SageMaker Python SDK の 2.198.0Predictor
クラスを使用してモデルの EULA に同意する必要があります。
SageMaker Python SDK を使用して JumpStart 基盤モデルをプログラムでデプロイした後、SageMaker Predictor
クラスを使用して、デプロイしたエンドポイントに対して推論を実行できます。エンドユーザーライセンス契約への同意が必要なモデルの場合は、Predictor
クラスを呼び出す際に EULA への同意を明示的に宣言する必要があります。
predictor.predict(payload, custom_attributes="accept_eula=true")
accept_eula
値はデフォルトでは false
であり、エンドユーザーライセンス契約を受諾するには明示的に true
として再定義する必要があります。accept_eula
が false
に設定されているときに推論を実行しようとすると、エラーが返されます。SageMaker Python SDK を使って JumpStart 基盤モデルを使用する方法については、「SageMaker Python SDK で基盤モデルを使用する」を参照してください。
重要
custom_attributes
パラメータは、"key1=value1;key2=value2"
の形式のキーと値のペアを受け入れます。同じキーを複数回使用すると、推論サーバーはそのキーに関連付けられた最後の値を使用します。例えば、custom_attributes
パラメータに "accept_eula=false;accept_eula=true"
を渡すと、推論サーバーは accept_eula
キーに値 true
を関連付けます。