Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Modellquellen und Lizenzvereinbarungen
Amazon SageMaker JumpStart bietet Zugriff auf Hunderte von öffentlich zugänglichen und firmeneigenen Stiftungsmodellen von Drittanbietern und Partnern. Sie können die Auswahl des JumpStart Foundation-Modells direkt in der SageMaker AI-Konsole, Studio oder Studio Classic erkunden.
Lizenzen und Modellquellen
Amazon SageMaker JumpStart bietet Zugriff auf öffentlich verfügbare und proprietäre Stiftungsmodelle. Grundlagenmodelle werden von externen Open-Source-Anbietern und proprietären Anbietern integriert und verwaltet. Daher werden sie unter verschiedenen Lizenzen veröffentlicht, die von der Modellquelle angegeben wurden. Achten Sie darauf, die Lizenz für jedes von Ihnen verwendete Grundlagenmodell zu überprüfen. Sie sind dafür verantwortlich, alle geltenden Lizenzbedingungen zu überprüfen und einzuhalten sowie sicherzustellen, dass sie für Ihren Anwendungsfall akzeptabel sind, bevor Sie den Inhalt herunterladen oder verwenden. Einige Beispiele für gängige Grundlagenmodell-Lizenzen:
-
Alexa Teacher Model
-
Apache 2.0
-
BigScience Verantwortungsvolle KI-Lizenz v1.0
-
CreativeML Open RAIL++-M-Lizenz
Achten Sie auch bei allen proprietären Grundlagenmodellen darauf, die Nutzungsbedingungen und Nutzungsrichtlinien des Modellanbieters zu überprüfen und einzuhalten. Wenn Sie Fragen zu den Lizenzinformationen für ein bestimmtes proprietäres Modell haben, wenden Sie sich direkt an den Modellanbieter. Die Kontaktinformationen des Modellanbieters finden Sie auf der Registerkarte Support auf jeder Modellseite in AWS Marketplace.
End-user Lizenzverträge
Für einige JumpStart Basismodelle ist vor der Verwendung die ausdrückliche Annahme einer Endbenutzer-Lizenzvereinbarung (EULA) erforderlich.
Akzeptanz der EULA in Amazon Studio SageMaker
Möglicherweise werden Sie aufgefordert, eine Endbenutzer-Lizenzvereinbarung zu akzeptieren, bevor Sie ein JumpStart Basismodell in Studio optimieren, bereitstellen oder evaluieren. Informationen zu den ersten Schritten mit JumpStart Foundation-Modellen in Studio finden Sie unter. Verwenden von Basismodellen in Studio
Wichtig
Seit dem 30. November 2023 heißt das vorherige Amazon SageMaker Studio-Erlebnis nun Amazon SageMaker Studio Classic. Der folgende Abschnitt bezieht sich auf die Verwendung der aktualisierten Studio-Erfahrung. Informationen zur Verwendung der Studio-Classic-Anwendung finden Sie unter Amazon Studio Klassisch SageMaker.
Bei einigen JumpStart Basismodellen muss vor der Bereitstellung eine Endbenutzer-Lizenzvereinbarung akzeptiert werden. Wenn dies auf das Basismodell zutrifft, das Sie verwenden möchten, zeigt Studio ein Fenster an, das den Inhalt der Endbenutzer-Lizenzvereinbarung enthält. Sie sind dafür verantwortlich, alle geltenden Lizenzbedingungen zu überprüfen und einzuhalten sowie sicherzustellen, dass sie für Ihren Anwendungsfall akzeptabel sind, bevor Sie ein Model herunterladen oder verwenden.
Akzeptanz der EULA in Amazon Studio Classic SageMaker
Möglicherweise werden Sie aufgefordert, eine Endbenutzer-Lizenzvereinbarung zu akzeptieren, bevor Sie ein JumpStart Foundation-Modell bereitstellen oder ein JumpStart Foundation-Model-Notizbuch in Studio Classic öffnen. Informationen zu den ersten Schritten mit JumpStart Foundation-Modellen in Studio Classic finden Sie unterVerwenden Sie Basismodelle in Amazon SageMaker Studio Classic.
Anmerkung
Seit dem 30. November 2023 heißt das vorherige Amazon SageMaker Studio-Erlebnis nun Amazon SageMaker Studio Classic. Der folgende Abschnitt bezieht sich konkret auf die Verwendung der Studio-Classic-Anwendung. Informationen zur Verwendung der aktualisierten Studio-Konfiguration finden Sie unter Amazon Studio SageMaker.
Studio Classic wird weiterhin für bestehende Workloads beibehalten, ist jedoch nicht mehr für das Onboarding verfügbar. Sie können nur bestehende Studio Classic-Anwendungen beenden oder löschen und keine neuen erstellen. Wir empfehlen Ihnen, Ihre Arbeitslast auf das neue Studio-Erlebnis zu migrieren.
Bei einigen JumpStart Basismodellen muss vor der Bereitstellung eine Endbenutzer-Lizenzvereinbarung akzeptiert werden. Wenn dies auf das Basismodell zutrifft, das Sie verwenden möchten, werden Sie von Studio Classic in einem Fenster mit dem Titel Endbenutzer-Lizenzvereinbarung (EULA) und Acceptable Use Policy (AUP) unten prüfen dazu aufgefordert, nachdem Sie entweder Bereitstellen oder Notebook öffnen ausgewählt haben. Sie sind dafür verantwortlich, alle geltenden Lizenzbedingungen zu überprüfen und einzuhalten sowie sicherzustellen, dass sie für Ihren Anwendungsfall akzeptabel sind, bevor Sie ein Model herunterladen oder verwenden.
Annahme des Endbenutzer-Lizenzvertrags mit der SageMaker Python SDK
In den folgenden Abschnitten wird gezeigt, wie Sie bei der Bereitstellung oder Feinabstimmung eines JumpStart Modells mit dem SDK explizit die Akzeptanz der EULA erklären. SageMaker Python Weitere Informationen zu den ersten Schritten mit JumpStart Foundation-Modellen mithilfe des SageMaker Python SDK finden Sie unter. Verwenden Sie Fundamentmodelle mit SageMaker Python SDK
Führen Sie Folgendes aus, bevor Sie beginnen:
-
Aktualisieren Sie auf die neueste Version des verwendeten Modells.
-
Installieren Sie die neueste Version des SageMaker Python SDK.
Wichtig
Um den folgenden Workflow verwenden zu können, muss Version 2.198.0
Akzeptanz der EULA bei der Bereitstellung eines Modells JumpStart
Für Modelle, für die die Annahme einer Endbenutzer-Lizenzvereinbarung erforderlich ist, müssen Sie bei der Bereitstellung Ihres Modells ausdrücklich erklären, dass der Endbenutzer-Lizenzvertrag akzeptiert wird. JumpStart
from sagemaker.jumpstart.model import JumpStartModel model_id ="meta-textgeneration-llama-2-13b"my_model = JumpStartModel(model_id=model_id) # Declare EULA acceptance when deploying your JumpStart model predictor = my_model.deploy(accept_eula=True)
Der accept_eula-Wert ist standardmäßig None und muss explizit als True neu definiert werden, um die Endbenutzer-Lizenzvereinbarung anzunehmen. Weitere Informationen finden Sie unter JumpStartModel
Akzeptanz der EULA bei der Feinabstimmung eines Modells JumpStart
Für die Feinabstimmung von Modellen, für die die Annahme einer Endbenutzer-Lizenzvereinbarung erforderlich ist, müssen Sie bei der Ausführung der Methode für Ihren Schätzer ausdrücklich erklären, dass der fit() Endbenutzer-Lizenzvertrag akzeptiert wird. JumpStart Nach der Optimierung eines vortrainierten Modells werden die Gewichtungen des ursprünglichen Modells geändert. Wenn Sie das optimierte Modell später bereitstellen, müssen Sie daher keine EULA akzeptieren.
Anmerkung
Im folgenden Beispiel wird accept_eula=False festgelegt. Sie sollten den Wert manuell auf True ändern, um die EULA zu akzeptieren.
from sagemaker.jumpstart.estimator import JumpStartEstimator model_id ="meta-textgeneration-llama-2-13b"# Declare EULA acceptance when defining your JumpStart estimator estimator = JumpStartEstimator(model_id=model_id) estimator.fit(accept_eula=False, {"train": training_dataset_s3_path, "validation": validation_dataset_s3_path} )
Der accept_eula-Wert ist standardmäßig None und muss innerhalb der fit()-Methode explizit als "true" neu definiert werden, um die Endbenutzer-Lizenzvereinbarung anzunehmen. Weitere Informationen finden Sie unter JumpStartEstimator
Akzeptanz der EULA SageMaker Python SDK-Versionen vor 2.198.0
Wichtig
Wenn Sie Versionen des SageMaker Python SDK vor Predictor Klasse verwenden, um eine Modell-EULA zu akzeptieren.
Nachdem Sie ein JumpStart Foundation-Modell mithilfe des SageMaker Python SDK programmgesteuert bereitgestellt haben, können Sie mit der Klasse Inferenzen für Ihren bereitgestellten Endpunkt ausführen. SageMaker Predictor Bei Modellen, die die Annahme einer Endbenutzer-Lizenzvereinbarung erfordern, müssen Sie in Ihrem Aufruf zur Predictor-Klasse ausdrücklich die Annahme der EULA erklären:
predictor.predict(payload, custom_attributes="accept_eula=true")
Der accept_eula-Wert ist standardmäßig false und muss explizit als true neu definiert werden, um die Endbenutzer-Lizenzvereinbarung anzunehmen. Der Predictor gibt einen Fehler zurück, wenn Sie versuchen, eine Inferenz auszuführen, wenn accept_eula auf false gesetzt ist. Weitere Informationen zu den ersten Schritten mit JumpStart Foundation-Modellen mithilfe des SageMaker Python SDK finden Sie unter. Verwenden Sie Fundamentmodelle mit SageMaker Python SDK
Wichtig
Der Parameter custom_attributes akzeptiert Schlüssel-Wert-Paare im Format "key1=value1;key2=value2". Wenn Sie denselben Schlüssel mehrmals verwenden, verwendet der Inferenzserver den letzten Wert, der dem Schlüssel zugeordnet ist. Wenn Sie beispielsweise "accept_eula=false;accept_eula=true" an den Parameter custom_attributes übergeben, ordnet der Inferenzserver den Wert true dem Schlüssel accept_eula zu.