Fontes de modelos e contratos de licença - Amazon SageMaker

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Fontes de modelos e contratos de licença

SageMaker JumpStart A Amazon fornece acesso a centenas de modelos de fundação proprietários e disponíveis publicamente de fontes e parceiros terceirizados. Você pode explorar a seleção do modelo JumpStart básico diretamente no SageMaker console, no Studio ou no Studio Classic.

Licenças e fontes de modelos

SageMaker JumpStart A Amazon fornece acesso a modelos de fundação disponíveis ao público e proprietários. Os modelos de base são integrados e mantidos por fornecedores proprietários e de código aberto terceirizados. Dessa forma, eles são lançados sob licenças diferentes, conforme designado pela fonte do modelo. Certifique-se de revisar a licença de qualquer modelo de base que você usa. Você é responsável por revisar e cumprir todos os termos de licença aplicáveis e garantir que eles sejam aceitáveis para seu caso de uso antes de baixar ou usar o conteúdo. Os seguintes exemplos demonstram as licenças comuns do modelo de base:

  • Modelo Alexa Teacher

  • Apache 2.0

  • BigScience Licença de IA responsável v1.0

  • Licença CreativeML Open ++-M RAIL

Da mesma forma, para qualquer modelo de base proprietário, certifique-se de revisar e cumprir todos os termos de uso e diretrizes de uso do fornecedor do modelo. Se tiver dúvidas sobre as informações de licença de um modelo proprietário específico, entre em contato diretamente com o fornecedor do modelo. Você pode encontrar as informações de contato do fornecedor do modelo na guia Suporte de cada página do modelo em AWS Marketplace.

Contratos de licença de usuário final

Alguns modelos JumpStart básicos exigem a aceitação explícita de um contrato de licença do usuário final (EULA) antes do uso.

EULAaceitação no Amazon SageMaker Studio

Você pode ser solicitado a aceitar um contrato de licença de usuário final antes de ajustar, implantar ou avaliar um modelo básico no Studio. JumpStart Para começar a usar os modelos JumpStart básicos no Studio, consulteUse modelos básicos no Studio.

Importante

Em 30 de novembro de 2023, a experiência anterior do Amazon SageMaker Studio agora se chama Amazon SageMaker Studio Classic. A seção a seguir é específica para usar a experiência atualizada do Studio. Para obter informações sobre como usar o aplicativo Studio Classic, consulteAmazon SageMaker Studio Clássico.

Alguns modelos JumpStart básicos exigem a aceitação de um contrato de licença do usuário final antes da implantação. Se isso se aplicar ao modelo básico que você escolher usar, o Studio exibirá uma janela contendo o EULA conteúdo. Você é responsável por revisar e cumprir todos os termos de licença aplicáveis e garantir que eles sejam aceitáveis para seu caso de uso antes de baixar ou usar o modelo.

EULAaceitação no Amazon SageMaker Studio Classic

Você pode ser solicitado a aceitar um contrato de licença de usuário final antes de implantar um modelo JumpStart básico ou abrir um caderno de modelo JumpStart básico no Studio Classic. Para começar a usar os modelos JumpStart básicos no Studio Classic, consulteUse modelos básicos no Amazon SageMaker Studio Classic.

Importante

Em 30 de novembro de 2023, a experiência anterior do Amazon SageMaker Studio agora se chama Amazon SageMaker Studio Classic. A seção a seguir é específica para usar o aplicativo Studio Classic. Para obter informações sobre como usar a experiência atualizada do Studio, consulte SageMaker Estúdio Amazon.

Alguns modelos JumpStart básicos exigem a aceitação de um contrato de licença do usuário final antes da implantação. Se isso se aplicar ao modelo básico que você escolher usar, o Studio Classic exibirá uma janela intitulada Revise o Contrato de Licença de Usuário Final (EULA) e a Política de Uso Aceitável (AUP) abaixo depois de escolher Implantar ou Abrir notebook. Você é responsável por revisar e cumprir todos os termos de licença aplicáveis e garantir que eles sejam aceitáveis para seu caso de uso antes de baixar ou usar o modelo.

EULAaceitação com o SageMaker Python SDK

As seções a seguir mostram como declarar explicitamente a EULA aceitação ao implantar ou ajustar um modelo com o JumpStart SageMaker Python SDK. Para obter mais informações sobre como começar a usar modelos JumpStart básicos usando o SageMaker Python SDK, vejaUse modelos de base com o SageMaker Python SDK.

Antes de começar, faça o seguinte:

  • Atualize para a versão mais recente do modelo que você usa.

  • Instale a versão mais recente do SageMaker Python SDK.

Importante

Para usar o fluxo de trabalho a seguir, você deve ter a versão v2.198.0 ou posterior do SageMaker Python SDKinstalado.

EULAaceitação ao implantar um modelo JumpStart

Para modelos que exigem a aceitação de um contrato de licença de usuário final, você deve declarar explicitamente a EULA aceitação ao implantar seu modelo. JumpStart

from sagemaker.jumpstart.model import JumpStartModel model_id = "meta-textgeneration-llama-2-13b" my_model = JumpStartModel(model_id=model_id) # Declare EULA acceptance when deploying your JumpStart model predictor = my_model.deploy(accept_eula=True)

O valor accept_eula é None por padrão e deve ser explicitamente redefinido como True para aceitar o contrato de licença do usuário final. Para obter mais informações, consulte JumpStartModel.

EULAaceitação ao ajustar um modelo JumpStart

Para modelos de ajuste fino que exigem a aceitação de um contrato de licença do usuário final, você deve declarar EULA explicitamente a aceitação ao definir seu estimador. JumpStart Depois de ajustar um modelo pré-treinado, os pesos do modelo original são alterados. Portanto, ao implantar o modelo ajustado posteriormente, você não precisa aceitar um. EULA

from sagemaker.jumpstart.estimator import JumpStartEstimator model_id = "meta-textgeneration-llama-2-13b" # Declare EULA acceptance when defining your JumpStart estimator estimator = JumpStartEstimator(model_id=model_id, environment={"accept_eula": "true"}) estimator.fit( {"train": training_dataset_s3_path, "validation": validation_dataset_s3_path} )

O accept_eula valor é None padrão e deve ser explicitamente redefinido como "true" dentro do ambiente do estimador para aceitar o contrato de licença do usuário final. Para obter mais informações, consulte JumpStartEstimator.

EULAaceitação SageMaker Python SDKversões anteriores à 2.198.0

Importante

Ao usar versões anteriores à 2.198.0 do SageMaker Python SDK, você deve usar a SageMaker Predictor classe para aceitar um modeloEULA.

Depois de implantar um modelo JumpStart básico programaticamente usando o SageMaker Python SDK, você pode executar inferências em seu endpoint implantado com a classe. SageMaker Predictor Para modelos que exigem a aceitação de um contrato de licença de usuário final, você deve declarar explicitamente a EULA aceitação em sua chamada para a turma: Predictor

predictor.predict(payload, custom_attributes="accept_eula=true")

O valor accept_eula é false por padrão e deve ser explicitamente redefinido como true para aceitar o contrato de licença do usuário final. O preditor retornará um erro se você tentar executar a inferência enquanto accept_eula estiver definido como. false Para obter mais informações sobre como começar a usar modelos JumpStart básicos usando o SageMaker Python SDK, vejaUse modelos de base com o SageMaker Python SDK.

Importante

O custom_attributes parâmetro aceita pares de valores-chave no formato. "key1=value1;key2=value2" Se você usar a mesma chave várias vezes, o servidor de inferência usará o último valor associado à chave. Por exemplo, se você passar "accept_eula=false;accept_eula=true" para o parâmetro custom_attributes, o servidor de inferência associará o valor à true chave. accept_eula