Modellquellen und Lizenzvereinbarungen - Amazon SageMaker

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Modellquellen und Lizenzvereinbarungen

Amazon SageMaker JumpStart bietet Zugriff auf Hunderte von öffentlich verfügbaren und proprietären Stiftungsmodellen von Drittanbietern und Partnern. Sie können die Auswahl des JumpStart Foundation-Modells direkt in der SageMaker Konsole, Studio oder Studio Classic erkunden.

Lizenzen und Modellquellen

Amazon SageMaker JumpStart bietet Zugriff sowohl auf öffentlich verfügbare als auch auf firmeneigene Stiftungsmodelle. Grundlagenmodelle werden von externen Open-Source-Anbietern und proprietären Anbietern integriert und verwaltet. Daher werden sie unter verschiedenen Lizenzen veröffentlicht, die von der Modellquelle angegeben wurden. Achten Sie darauf, die Lizenz für jedes von Ihnen verwendete Grundlagenmodell zu überprüfen. Sie sind dafür verantwortlich, alle geltenden Lizenzbedingungen zu überprüfen und einzuhalten sowie sicherzustellen, dass sie für Ihren Anwendungsfall akzeptabel sind, bevor Sie den Inhalt herunterladen oder verwenden. Einige Beispiele für gängige Grundlagenmodell-Lizenzen:

  • Alexa Teacher Model

  • Apache 2.0

  • BigScience Lizenz für verantwortungsvolle KI v1.0

  • CreativeML Open ++-M-Lizenz RAIL

Achten Sie auch bei allen proprietären Grundlagenmodellen darauf, die Nutzungsbedingungen und Nutzungsrichtlinien des Modellanbieters zu überprüfen und einzuhalten. Wenn Sie Fragen zu den Lizenzinformationen für ein bestimmtes proprietäres Modell haben, wenden Sie sich direkt an den Modellanbieter. Die Kontaktinformationen des Modellanbieters finden Sie auf der Registerkarte Support auf jeder Modellseite in AWS Marketplace.

Endbenutzer-Lizenzvereinbarungen

Einige JumpStart Foundation-Modelle erfordern vor der Verwendung die ausdrückliche Annahme einer Endbenutzer-Lizenzvereinbarung (EULA).

EULAAkzeptanz in Amazon SageMaker Studio

Möglicherweise werden Sie aufgefordert, eine Endbenutzer-Lizenzvereinbarung zu akzeptieren, bevor Sie ein JumpStart Basismodell in Studio optimieren, bereitstellen oder evaluieren können. Informationen zu den ersten Schritten mit JumpStart Foundation-Modellen in Studio finden Sie unter. Verwenden Sie Foundation-Modelle in Studio

Wichtig

Seit dem 30. November 2023 heißt das vorherige Amazon SageMaker Studio-Erlebnis jetzt Amazon SageMaker Studio Classic. Der folgende Abschnitt bezieht sich speziell auf die Nutzung des aktualisierten Studio-Erlebnisses. Informationen zur Verwendung der Studio Classic-Anwendung finden Sie unterAmazon SageMaker Studio Klassisch.

Bei einigen JumpStart Foundation-Modellen ist vor der Bereitstellung die Annahme einer Endbenutzer-Lizenzvereinbarung erforderlich. Wenn dies auf das Foundation-Modell zutrifft, das Sie verwenden möchten, zeigt Studio ein Fenster mit dem Inhalt an. EULA Sie sind dafür verantwortlich, alle geltenden Lizenzbedingungen zu überprüfen und einzuhalten sowie sicherzustellen, dass sie für Ihren Anwendungsfall akzeptabel sind, bevor Sie ein Model herunterladen oder verwenden.

EULAAkzeptanz in Amazon SageMaker Studio Classic

Möglicherweise werden Sie aufgefordert, eine Endbenutzer-Lizenzvereinbarung zu akzeptieren, bevor Sie ein JumpStart Foundation-Modell bereitstellen oder ein JumpStart Foundation-Model-Notizbuch in Studio Classic öffnen. Informationen zu den ersten Schritten mit JumpStart Foundation-Modellen in Studio Classic finden Sie unterVerwenden Sie Fundamentmodelle in Amazon SageMaker Studio Classic.

Wichtig

Seit dem 30. November 2023 heißt das vorherige Amazon SageMaker Studio-Erlebnis jetzt Amazon SageMaker Studio Classic. Der folgende Abschnitt bezieht sich speziell auf die Verwendung der Studio Classic-Anwendung. Informationen zur Verwendung der aktualisierten Studio-Oberfläche finden Sie unterAmazon SageMaker Studio.

Bei einigen JumpStart Basismodellen muss vor der Bereitstellung eine Endbenutzer-Lizenzvereinbarung akzeptiert werden. Wenn dies auf das Foundation-Modell zutrifft, das Sie verwenden möchten, werden Sie von Studio Classic aufgefordert, ein Fenster mit dem Titel Endbenutzer-Lizenzvertrag überprüfen (EULA) und Nutzungsbedingungen (AUP) unten anzuzeigen, nachdem Sie entweder Bereitstellen oder Notizbuch öffnen ausgewählt haben. Sie sind dafür verantwortlich, alle geltenden Lizenzbedingungen zu überprüfen und einzuhalten sowie sicherzustellen, dass sie für Ihren Anwendungsfall akzeptabel sind, bevor Sie ein Model herunterladen oder verwenden.

EULAAkzeptanz mit dem SageMaker Python SDK

In den folgenden Abschnitten erfahren Sie, wie Sie bei der Bereitstellung oder Feinabstimmung eines JumpStart Modells mit dem SageMaker Python SDK explizit EULA Akzeptanz deklarieren. Weitere Informationen zu den ersten Schritten mit JumpStart Foundation-Modellen mithilfe von finden Sie SageMaker Python SDK unterVerwenden Sie Fundamentmodelle mit dem SageMaker Python SDK.

Bevor Sie beginnen, stellen Sie sicher, dass Sie Folgendes tun:

  • Führen Sie ein Upgrade auf die neueste Version des Modells durch, das Sie verwenden.

  • Installieren Sie die neueste Version von SageMaker PythonSDK.

Wichtig

Um den folgenden Workflow verwenden zu können, müssen Sie Version 2.198.0 oder höher von installiert haben. SageMaker Python SDK

EULAAkzeptanz bei der Bereitstellung eines Modells JumpStart

Bei Modellen, die die Annahme einer Endbenutzer-Lizenzvereinbarung erfordern, müssen Sie bei der Bereitstellung Ihres JumpStart Modells ausdrücklich die EULA Annahme erklären.

from sagemaker.jumpstart.model import JumpStartModel model_id = "meta-textgeneration-llama-2-13b" my_model = JumpStartModel(model_id=model_id) # Declare EULA acceptance when deploying your JumpStart model predictor = my_model.deploy(accept_eula=True)

Der accept_eula-Wert ist standardmäßig None und muss explizit als True neu definiert werden, um die Endbenutzer-Lizenzvereinbarung anzunehmen. Weitere Informationen finden Sie unter JumpStartModel.

EULAAkzeptanz bei der Feinabstimmung eines Modells JumpStart

Bei der Feinabstimmung von Modellen, die die Annahme einer Endbenutzer-Lizenzvereinbarung erfordern, müssen Sie bei der Definition Ihres Schätzers die EULA Zustimmung ausdrücklich erklären. JumpStart Nach der Feinabstimmung eines vorab trainierten Modells werden die Gewichte des Originalmodells geändert. Wenn Sie das fein abgestimmte Modell später bereitstellen, müssen Sie daher eine nicht akzeptieren. EULA

from sagemaker.jumpstart.estimator import JumpStartEstimator model_id = "meta-textgeneration-llama-2-13b" # Declare EULA acceptance when defining your JumpStart estimator estimator = JumpStartEstimator(model_id=model_id, environment={"accept_eula": "true"}) estimator.fit( {"train": training_dataset_s3_path, "validation": validation_dataset_s3_path} )

Der accept_eula Wert ist None standardmäßig und muss wie "true" in der Estimator-Umgebung explizit neu definiert werden, um die Endbenutzer-Lizenzvereinbarung zu akzeptieren. Weitere Informationen finden Sie unter. JumpStartEstimator

EULA SageMaker PythonSDKAkzeptanzversionen vor 2.198.0

Wichtig

Wenn Sie Versionen vor 2.198.0 von verwenden, müssen Sie die SageMaker Predictor Klasse verwenden SageMaker PythonSDK, um ein Modell zu akzeptieren. EULA

Nachdem Sie ein JumpStart Foundation-Modell mithilfe von programmgesteuert bereitgestellt haben SageMaker PythonSDK, können Sie mit der Klasse Inferenz für Ihren bereitgestellten Endpunkt ausführen. SageMaker Predictor Bei Modellen, für die die Annahme einer Endbenutzer-Lizenzvereinbarung erforderlich ist, müssen Sie dies in Ihrem Call to EULA the Class ausdrücklich erklären: Predictor

predictor.predict(payload, custom_attributes="accept_eula=true")

Der accept_eula-Wert ist standardmäßig false und muss explizit als true neu definiert werden, um die Endbenutzer-Lizenzvereinbarung anzunehmen. Der Prädiktor gibt einen Fehler zurück, wenn Sie versuchen, eine Inferenz auszuführen, während er auf gesetzt accept_eula ist. false Weitere Informationen zu den ersten Schritten mit JumpStart Basismodellen unter Verwendung von finden Sie unter SageMaker PythonSDK. Verwenden Sie Fundamentmodelle mit dem SageMaker Python SDK

Wichtig

Der custom_attributes Parameter akzeptiert Schlüssel-Wert-Paare im Format. "key1=value1;key2=value2" Wenn Sie denselben Schlüssel mehrmals verwenden, verwendet der Inferenzserver den letzten Wert, der dem Schlüssel zugeordnet ist. Wenn Sie beispielsweise "accept_eula=false;accept_eula=true" an den Parameter custom_attributes übergeben, ordnet der Inferenzserver den Wert true dem Schlüssel accept_eula zu.