Fuentes de modelos y acuerdos de licencia
Amazon SageMaker JumpStart proporciona acceso a cientos de modelos fundacionales patentados y disponibles públicamente de fuentes y socios de terceros. Puede explorar la selección de modelos fundacionales de JumpStart directamente en la consola de SageMaker, Studio o Studio Classic.
Licencias y orígenes de modelos
Amazon SageMaker JumpStart proporciona acceso a modelos fundacionales patentados y disponibles públicamente. Los modelos fundacionales los incorporan y mantienen proveedores externos de código abierto y patentados. Por lo tanto, se publican bajo diferentes licencias según lo indique el origen del modelo. Asegúrese de revisar la licencia de cualquier modelo fundacional que utilice. Usted es el responsable de revisar y cumplir los términos de licencia aplicables y de asegurarse de que sean aceptables para su caso de uso antes de descargar o usar el contenido. Ejemplos de licencias de modelo fundacional comunes:
-
Alexa Teacher Model
-
Apache 2.0
-
Licencia BigScience Responsible AI v1.0
-
Licencia CreativeML Open RAIL++-M
Del mismo modo, para cualquier modelo fundacional patentado, asegúrese de revisar y cumplir las condiciones de uso y las directrices de uso del proveedor del modelo. Si tiene preguntas sobre la información de licencia de un modelo patentado específico, póngase en contacto directamente con el proveedor del modelo. Puede encontrar la información de contacto del proveedor del modelo en la pestaña Soporte de cada página de modelos en AWS Marketplace.
Contratos de licencia para usuarios finales
Algunos modelos fundacionales de JumpStart requieren la aceptación explícita de un acuerdo de licencia de usuario final (EULA) antes de su implementación.
Aceptación del EULA en Amazon SageMaker Studio
Es posible que se le pida que acepte un acuerdo de licencia de usuario final antes de afinar, implementar o evaluar un modelo fundacional de JumpStart en Studio. Para empezar a utilizar los modelos fundacionales de JumpStart en Studio, consulte Uso de los modelos fundacionales en Studio.
importante
A partir del 30 de noviembre de 2023, la experiencia anterior de Amazon SageMaker Studio pasa a denominarse Amazon SageMaker Studio Classic. La siguiente sección está dedicada expresamente al uso de la experiencia de Studio actualizada. Para obtener más información sobre el uso de la aplicación de Studio Classic, consulte Amazon SageMaker Studio Classic.
Algunos modelos fundacionales de JumpStart requieren la aceptación de un acuerdo de licencia de usuario final antes de su implementación. Si esto se aplica al modelo fundacional que elija usar, Studio le mostrará una ventana con el contenido del EULA. Usted es el responsable de revisar y cumplir los términos de licencia aplicables y de asegurarse de que sean aceptables para su caso de uso antes de descargar o usar el modelo.
Aceptación del EULA en Amazon SageMaker Studio Classic
Es posible que se le pida que acepte un acuerdo de licencia de usuario final antes de implementar un modelo fundacional de JumpStart o de abrir un cuaderno del modelo fundacional de JumpStart en Studio Classic. Para empezar a utilizar los modelos fundacionales de JumpStart en Studio, consulte Uso de los modelos fundacionales en Amazon SageMaker Studio.
importante
A partir del 30 de noviembre de 2023, la experiencia anterior de Amazon SageMaker Studio pasa a denominarse Amazon SageMaker Studio Classic. La siguiente sección es específica del uso de la aplicación de Studio Classic. Para obtener información sobre el uso de la experiencia de Studio actualizada, consulte Amazon SageMaker Studio.
Algunos modelos fundacionales de JumpStart requieren la aceptación de un acuerdo de licencia de usuario final antes de su implementación. Si esto se aplica al modelo fundacional que elija utilizar, Studio Classic le mostrará una ventana titulada Revise el contrato de licencia para el usuario final (EULA) y la política de uso aceptable (AUP) a continuación, después de seleccionar Implementar o Abrir cuaderno. Usted es el responsable de revisar y cumplir los términos de licencia aplicables y de asegurarse de que sean aceptables para su caso de uso antes de descargar o usar el modelo.
Aceptación del EULA con el SageMaker Python SDK
En las siguientes secciones se muestra cómo declarar explícitamente la aceptación del EULA al implementar o afinar un modelo de JumpStart con el SageMaker Python SDK. Para obtener más información sobre cómo empezar a utilizar los modelos fundacionales de JumpStart mediante el SageMaker Python SDK, consulte Uso de modelos fundacionales con el SageMaker Python SDK.
Antes de comenzar, asegúrese de hacer lo siguiente:
-
Actualice a la versión más reciente del modelo que utiliza.
-
Instale la última versión del SageMaker Python SDK.
importante
Para utilizar el siguiente flujo de trabajo, debe tener instalada v2.198.0
Aceptación del EULA al implementar un modelo de JumpStart
En el caso de los modelos que requieren la aceptación de un acuerdo de licencia para el usuario final, debe declarar explícitamente la aceptación del EULA al implementar el modelo de JumpStart.
from sagemaker.jumpstart.model import JumpStartModel model_id =
"meta-textgeneration-llama-2-13b"
my_model = JumpStartModel(model_id=model_id) # Declare EULA acceptance when deploying your JumpStart model predictor = my_model.deploy(accept_eula=True
)
El valor accept_eula
es None
de forma predeterminada y debe redefinirse explícitamente como True
para poder aceptar el acuerdo de licencia para el usuario final. Para obtener más información, consulte JumpStartModel
Aceptación del EULA al afinar un modelo de JumpStart
Para afinar modelos que requieren la aceptación de un acuerdo de licencia para el usuario final, debe declarar explícitamente la aceptación del EULA al definir el estimador de JumpStart. Después de afinar un modelo previamente entrenado, cambian las ponderaciones del modelo original. Por tanto, cuando implemente el modelo afinado más adelante, no necesitará aceptar un EULA.
from sagemaker.jumpstart.estimator import JumpStartEstimator model_id =
"meta-textgeneration-llama-2-13b"
# Declare EULA acceptance when defining your JumpStart estimator estimator = JumpStartEstimator(model_id=model_id, environment={"accept_eula": "true"}) estimator.fit( {"train": training_dataset_s3_path, "validation": validation_dataset_s3_path} )
El valor accept_eula
es None
de forma predeterminada y debe redefinirse explícitamente como "true"
en el entorno del estimador para poder aceptar el acuerdo de licencia para el usuario final. Para obtener más información, consulte JumpStartEstimator
Aceptación del EULA en versiones del SageMaker Python SDK anteriores a la 2.198.0
importante
Si utiliza versiones anteriores a la 2.198.0Predictor
de SageMaker para aceptar el EULA de un modelo.
Tras implementar un modelo fundacional de JumpStart mediante programación con el SageMaker Python SDK, puede realizar inferencias en el punto de conexión implementado con la clase Predictor
de SageMaker. En el caso de los modelos que requieren la aceptación de un acuerdo de licencia para el usuario final, debe declarar explícitamente la aceptación del EULA en la llamada a la clase Predictor
.
predictor.predict(payload, custom_attributes="accept_eula=true")
El valor accept_eula
es false
de forma predeterminada y debe redefinirse explícitamente como true
para poder aceptar el acuerdo de licencia para el usuario final. El predictor devuelve un error si intenta ejecutar una inferencia cuando accept_eula
está establecido en false
. Para obtener más información sobre cómo empezar a utilizar los modelos fundacionales de JumpStart mediante el SageMaker Python SDK, consulte Uso de modelos fundacionales con el SageMaker Python SDK.
importante
El parámetro custom_attributes
acepta pares clave-valor con el formato "key1=value1;key2=value2"
. Si usa la misma clave varias veces, el servidor de inferencia usa el último valor asociado a la clave. Por ejemplo, si pasa "accept_eula=false;accept_eula=true"
al parámetro custom_attributes
, el servidor de inferencia asociará el valor true
a la clave accept_eula
.