As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Propriedades do modelo
O HubContentDocument for the Model HubContentType contém os metadados que descrevem um JumpStart modelo, incluindo suas opções de ID, licenciamento, configuração de implantação e personalização. Use esses metadados para avaliar e comparar modelos e tomar decisões informadas sobre qual modelo se adapta melhor ao seu caso de uso.
Ao chamar a DescribeHubContent operação para um modelo, a resposta inclui um HubContentDocument campo, retornado como uma JSON-formatted string. Esta seção descreve as propriedades desse documento para que ele Model HubContentType possa ser interpretado com mais facilidade.
Analise a HubContentDocument string como JSON para ler as propriedades descritas aqui. Uso de nomes de propriedades PascalCase. Um documento contém somente as propriedades que se aplicam ao modelo, portanto, a maioria das propriedades é opcional.
As seguintes propriedades estão sempre presentes: Url TrainingSupportedIncrementalTrainingSupported,ModelTypes,, Capabilities e. Todas as outras propriedades são opcionais e aparecem somente quando se aplicam ao modelo.
Top-level propriedades
A tabela a seguir lista as propriedades de nível superior do modeloHubContentDocument.
Propriedade |
Tipo |
Description |
|---|---|---|
|
|
O URL da página de origem do modelo. Obrigatório |
|
|
A versão mais antiga do SDK do Python compatível com esse modelo. Opcional |
|
|
Especifica se o modelo oferece suporte ao caminho de treinamento clássico do SDK do Python (não ao caminho baseado em receita). Obrigatório |
|
|
Especifica se o modelo pode ser ajustado novamente a partir do artefato de saída de um trabalho de treinamento anterior. Obrigatório |
|
|
O nome base usado para nomear automaticamente endpoints e trabalhos de treinamento. Opcional |
|
|
Especifica se os pesos do modelo são controlados. Para implantar um modelo fechado, você deve aceitar o EULA (accept_EULA=true). Opcional |
|
|
Um marcador que identifica as variantes do modelo Amazon Nova. Opcional |
|
|
A classe de licenciamento do modelo. Os valores válidos são PROPRIETARY (pesos bloqueados) ou OPEN_WEIGHTS (pesos portáteis). Obrigatório |
|
|
A categoria de tarefas de ML (por exemplo, geração de texto ou classificação de imagens). Opcional |
|
|
A origin/framework família do modelo (por exemplo, huggingface, meta ou nova). Opcional |
|
|
A organização que produziu o modelo (por exemplo, Meta, Anthropic ou Amazon). Opcional |
|
|
A modalidade do modelo (texto, visão, áudio ou multimodal). Opcional |
|
|
Um identificador de licença curto (por exemplo, Apache-2.0 ou MIT). Opcional |
|
|
Os tipos de entrada que o modelo aceita (texto, imagem, áudio, vídeo etc.). Opcional |
|
|
Os tipos de saída que o modelo produz (texto, imagem, áudio, vídeo etc.). Opcional |
|
|
Uma tag de nível de acesso (hub público, fechado ou privado). Opcional |
|
|
As linguagens humanas nas quais o modelo foi treinado. Opcional |
|
|
O tamanho do modelo por número de parâmetros. Opcional |
|
|
O número máximo de tokens de entrada que o modelo pode processar. Opcional |
|
|
A estrutura de ML na qual o modelo foi originalmente treinado (por exemplo, PyTorch). Opcional |
|
|
O ID do Hugging Face Hub de origem, se o modelo foi espelhado do Hugging Face. Opcional |
|
|
Um URL para a imagem do logotipo do fornecedor para o cartão modelo. Opcional |
|
|
Uma lista de destaques de marketing mostrada na página de detalhes do modelo. Opcional |
|
|
Uma lista de links externos (papel, blog ou repositório de código) mostrada em “Saiba mais”. Opcional |
|
|
O texto de ajuda em linha mostrado ao lado da entrada de dados de treinamento ( Opcional |
|
|
As instruções para copiar artefatos em um hub no momento da importação. Opcional |
|
|
O contêiner para os exemplos de cadernos mostrados na guia Cadernos do modelo. Opcional |
|
|
Uma coleção de personalizações baseadas em receitas, independente de. Opcional |
|
|
As portas de recursos que o modelo suporta (por exemplo, BEDROCK_CONSOLE, TRAINING, FINE_TUNING, CUSTOMIZATION, HYPERPOD_DEPLOYMENT). Obrigatório |
|
|
Um conjunto nomeado de configurações alternativas de implantação que substituem os campos de hospedagem raiz. A configuração mais bem classificada é a padrão. Opcional |
|
|
Um pool de componentes reutilizáveis referenciado por InferenceConfigs [*]. ComponentNames. Opcional |
|
|
Especifica qual InferenceConfigs entrada é a padrão (overall.Rankings [0]). Opcional |
|
|
Um conjunto nomeado de configurações de treinamento para o caminho de treinamento clássico. Opcional |
|
|
Um pool de componentes reutilizáveis referenciado por TrainingConfigs [*]. ComponentNames. Opcional |
|
|
Especifica qual TrainingConfigs entrada é a padrão. Opcional |
|
|
Especifica se o modelo pode ser implantado como um componente de inferência (endpoint de contêiner dinâmico). Opcional |
|
|
Canais adicionais de dados de modelo em tempo de implantação, normalmente usados para modelos preliminares de decodificação especulativa. Opcional |
|
|
O ID do I/O contrato usado quando o modelo é invocado pelo Amazon Bedrock. Opcional |
|
|
A imagem do contêiner de inferência usada para implantação. Opcional (efetivamente necessário para implantação) |
|
|
O triplo framework/version /Python usado para computar uma imagem do Deep Learning Container. Opcional |
|
|
Especifica se HostingArtifactUri é um S3Prefix (diretório) ou S3Object (um único tarball). Opcional |
|
|
Especifica se HostingArtifactUri é Gzip-compressed ou Nenhum. Opcional |
|
|
A localização S3 dos pesos do modelo. Opcional |
|
|
A localização do pacote de scripts de inferência no S3 (sourcedir.tar.gz). Opcional |
|
|
Especifica se é necessário buscar um pacote de scripts separado (false = pré-embalado). Opcional |
|
|
O URI S3 do EULA do modelo; sua presença bloqueia o modelo (requer accept_eula). Opcional |
|
|
Um link externo para a página de licença do fornecedor. Opcional |
|
|
Um link de AWS Marketplace assinatura. Opcional |
|
|
O ID do AWS Marketplace anúncio. Opcional |
|
|
O ID AWS Marketplace do produto. Opcional |
|
|
O caminho de AWS Marketplace implantação. O endpoint é criado a partir de um pacote modelo em vez de uma imagem e artefato de contêiner. Opcional |
|
|
A SageMaker-managed AMI (driver/CUDA versão) para o host do endpoint. Opcional |
|
|
O máximo de segundos SageMaker aguarda o download dos pesos do modelo do S3. Opcional |
|
|
O máximo de segundos de SageMaker espera que a verificação de integridade do contêiner retorne 200. Opcional |
|
|
As variáveis de ambiente do contêiner definidas no momento da implantação. Opcional |
|
|
Os pacotes Python que o contêiner de inferência instala na inicialização. Opcional |
|
|
O tipo de instância de implantação padrão. Opcional |
|
|
Os tipos de instância disponíveis para implantação. Opcional |
|
|
Os cabeçalhos Content-Type e Accept usados ao invocar o modelo. Opcional |
|
|
O volume adicional do EBS, em GB, conectado ao host do endpoint. Opcional |
|
|
Especifica se a rede de saída está bloqueada do contêiner do endpoint. Opcional |
|
|
O exemplo canônico de corpos de solicitação para o painel de carga útil de amostra. Opcional |
|
|
Os requisitos de CPU, GPU e memória para implantação como um componente de inferência. Opcional |
|
|
A família por instância substitui a configuração de implantação (URIs de imagem, variáveis de ambiente e ARNs do pacote de modelo). Opcional |
|
|
Especifica se TrainingArtifactUri é um S3Prefix ou S3Object. Opcional |
|
|
Especifica se TrainingArtifactUri é Gzip-compressed ou Nenhum. Opcional |
|
|
O caminho AWS Marketplace de treinamento. Os pesos vêm de um pacote de modelo em vez do canal do modelo. Opcional |
|
|
Os parâmetros ajustáveis pelo cliente (nome, tipo, padrão, mínimo e máximo) para o plano de treinamento. Opcional |
|
|
A localização do pacote de scripts de treinamento no S3 (sourcedir.tar.gz). Opcional |
|
|
A imagem do contêiner de treinamento. Opcional |
|
|
Os padrões de expressão regular extraídos dos registros para as métricas da Amazon CloudWatch . Opcional |
|
|
Os pesos pré-treinados foram inseridos no trabalho de treinamento como ponto de partida. Opcional |
|
|
Os pacotes Python que o contêiner de treinamento instala na inicialização. Opcional |
|
|
O tipo de instância de treinamento padrão. Opcional |
|
|
Os tipos de instância disponíveis para treinamento. Opcional |
|
|
O volume do EBS (GB) anexado ao host de treinamento. Opcional |
|
|
Especifica se a rede de saída está bloqueada do contêiner de treinamento. Opcional |
|
|
Uma propriedade herdada. Opcional |
|
|
Uma propriedade herdada. O recurso de VALIDAÇÃO substitui essa propriedade. Opcional |
|
|
Um conjunto de dados de amostra que o assistente pode preencher previamente para um ajuste fino em uma única etapa. Opcional |
|
|
Especifica se o tráfego entre hosts deve ser criptografado durante o treinamento distribuído. Opcional |
|
|
O número máximo de segundos antes de o trabalho de treinamento ser interrompido, mesmo que não tenha convergido. Opcional |
|
|
Especifica se a compressão do artefato de saída de treinamento deve ser ignorada. Opcional |
|
|
O diretório dentro do contêiner de treinamento em que o script grava o modelo final. Opcional |
|
|
A família por instância substitui a configuração de treinamento (URIs de imagem e variáveis de ambiente de modelo fechado). Opcional |
Propriedades aninhadas
A tabela a seguir lista as propriedades aninhadas nas propriedades do objeto e da matriz na tabela anterior. Uma propriedade aninhada marcada como obrigatória é necessária somente quando sua propriedade principal está presente.
nota
As TrainingConfigRankings propriedades TrainingConfigs e têm a mesma estrutura aninhada que suas InferenceConfigRankings contrapartes InferenceConfigs e. InferenceSubstitua por Training nos caminhos da propriedade.
Caminho da propriedade |
Tipo |
Description |
|---|---|---|
|
|
O URI do S3 de origem do qual copiar no ImportHubContent momento. Opcional |
|
|
O URI do S3 de destino dentro do hub. Opcional |
|
|
O tipo de artefato que está sendo copiado. Opcional |
|
|
O rótulo do link legível por humanos. Opcional |
|
|
O URL externo (artigo GitHub, blog). Opcional |
|
|
Os parágrafos que explicam o formato esperado dos dados de treinamento (até 50). Opcional |
|
|
Os parágrafos que descrevem o conjunto de dados da amostra (até 50). Opcional |
|
|
A localização antiga de um único notebook. Opcional |
|
|
A lista de exemplos de cadernos mostrada na guia Cadernos. Opcional |
|
|
O conteúdo do Markdown para a visão geral da guia Fine-tune "”. Opcional |
|
|
Visão geral do conteúdo do Markdown da guia “Implantar”. Opcional |
|
|
O título de exibição do notebook. Obrigatório |
|
|
A localização do arquivo.ipynb no S3. Obrigatório |
|
|
Especifica se esse caderno está pré-selecionado quando a guia é aberta. Opcional |
|
|
O identificador de hiperparâmetro passado para o script de treinamento. Obrigatório |
|
|
A etiqueta de exibição mostrada no formulário. Opcional |
|
|
Uma descrição ou dica de ferramenta. Opcional |
|
|
O tipo de dados do valor do hiperparâmetro. Obrigatório |
|
|
O valor padrão; o tipo deve corresponder ao Tipo. Obrigatório |
|
|
O valor mínimo permitido. Opcional |
|
|
O valor máximo permitido. Opcional |
|
|
Os valores permitidos (somente tipo de texto). Opcional |
|
|
Especifica se o valor é um argumento do script de treinamento ou uma variável de ambiente de contêiner. Opcional |
|
|
A validação adicional do formato aplicada ao valor. Opcional |
|
|
O nome da variável de ambiente. Obrigatório |
|
|
O tipo de valor. Obrigatório |
|
|
O valor padrão; o tipo deve corresponder ao Tipo. Obrigatório |
|
|
Uma descrição ou dica de ferramenta. Opcional |
|
|
Os valores permitidos (somente tipo de texto). Opcional |
|
|
O valor ou comprimento mínimo. Opcional |
|
|
O valor ou comprimento máximo. Opcional |
|
|
A tag do escopo do valor. Opcional |
|
|
A classe de modelo para a qual o valor é necessário. Opcional |
|
|
A validação adicional do formato aplicada ao valor. Opcional |
|
|
O nome da métrica publicado em CloudWatch. Obrigatório |
|
|
O regex aplicado aos registros; captura exatamente um grupo numérico. Obrigatório |
|
|
O Content-Type cabeçalho padrão da solicitação. Obrigatório |
|
|
O Content-Types que o modelo aceita. Obrigatório |
|
|
O cabeçalho Accept de resposta padrão. Obrigatório |
|
|
Os tipos de aceitação que o modelo retorna. Obrigatório |
|
|
O Content-Type cabeçalho deste exemplo. Obrigatório |
|
|
O caminho JSON em que um prompt do usuário é inserido no Body. Opcional |
|
|
O exemplo de corpo da solicitação. Obrigatório |
|
|
O caminho JSON na resposta contendo o texto gerado. Opcional |
|
|
O caminho JSON na resposta contendo os log-probs de entrada. Opcional |
|
|
A contagem de aceleradores necessária para um componente de inferência. Opcional |
|
|
A contagem necessária de vCPUs. Opcional |
|
|
A RAM mínima necessária em MB. Obrigatório |
|
|
O nome do SageMaker canal (ponto de montagem). Obrigatório |
|
|
A tag de versão do artefato extra. Opcional |
|
|
O tipo de dados Amazon S3 (S3Prefix ou S3Object). Obrigatório |
|
|
A localização S3 do artefato extra. Obrigatório |
|
|
O tipo de compressão (Nenhuma ou Gzip). Obrigatório |
|
|
O HubContent ARN ao qual atribuir o download. Opcional |
|
|
O EULA que um usuário deve aceitar antes de acessar essa fonte de dados adicional. Opcional |
|
|
O nome do provedor para atribuição. Obrigatório |
|
|
A classificação do provedor. Obrigatório |
|
|
Um URI de imagem compartilhado entre vários tipos de instância. Opcional |
|
|
Uma substituição de imagem de inferência por tipo de instância. Opcional |
|
|
A variável de ambiente por tipo de instância é substituída. Opcional |
|
|
Uma substituição de pacote de modelo por tipo de instância AWS Marketplace . Opcional |
|
|
Um ID de listagem por tipo de instância AWS Marketplace . Opcional |
|
|
Um ID de produto por tipo de instância AWS Marketplace . Opcional |
|
|
Um URI de imagem compartilhado entre vários tipos de instância. Opcional |
|
|
Uma substituição de imagem de treinamento por tipo de instância. Opcional |
|
|
O URI de pesos do modelo fechado passado por uma variável de ambiente. Opcional |
|
|
Uma substituição de artefato de treinamento por tipo de instância. Opcional |
|
|
A variável de ambiente por tipo de instância é substituída. Opcional |
|
|
O ID da receita legível por máquina, exclusivo na coleção. Obrigatório |
|
|
O título da receita legível por humanos. Obrigatório |
|
|
Especifica se a receita ajusta ou avalia o modelo. Obrigatório |
|
|
O algoritmo de ajuste fino. Opcional |
|
|
A metodologia de avaliação (somente quando Tipo=Avaliação). Opcional |
|
|
Especifica se a receita exige uma assinatura ativa antes que o modelo possa ser personalizado. Opcional |
|
|
O modo de ajuste fino com eficiência de parâmetros. Opcional |
|
|
A duração do contexto de treinamento para o ajuste fino. Opcional |
|
|
A família de hardware do acelerador (por exemplo, GPU, TRAINIUM ou CPU). Opcional |
|
|
As versões do modelo com as quais a receita é compatível. Obrigatório |
|
|
A imagem do contêiner de treinamento usada quando a receita é executada como um trabalho SageMaker de treinamento. Opcional |
|
|
O número padrão de instâncias para o trabalho de treinamento. Opcional |
|
|
A família de estruturas de treinamento que administra a receita. Opcional |
|
|
O modelo de cobrança sem servidor (por token ou por hora). Opcional |
|
|
O SKU pelo qual o medidor sem servidor cobra. Opcional |
|
|
As metas de implantação disponíveis após a personalização. Opcional |
|
|
As tags de casos de uso de texto livre. Opcional |
|
|
As tags “ideais para” em texto livre. Opcional |
|
|
Uma descrição em texto livre da receita. Opcional |
|
|
Os tipos de instância de treinamento suportados pela receita. Opcional |
|
|
O caminho para o arquivo de definição da receita. Opcional |
|
|
A localização S3 do modelo de lançamento HyperPod (EKS). Opcional |
|
|
A localização S3 do parâmetro HyperPod (EKS) é substituída. Opcional |
|
|
A localização S3 do modelo de lançamento da vaga de SageMaker treinamento. Opcional |
|
|
A localização S3 do parâmetro do trabalho de SageMaker treinamento é substituída. Opcional |
|
|
Um tipo de instância em que o modelo personalizado pode ser implantado. Obrigatório |
|
|
Um nome de perfil de implantação opcional. Opcional |
|
|
Uma substituição opcional para a imagem do contêiner de inferência. Opcional |
|
|
As variáveis de ambiente do contêiner para esse destino de implantação. Opcional |
|
|
A memória RAM mínima em MB. Obrigatório (se o objeto principal estiver definido) |
|
|
A contagem mínima de vCPUs. Obrigatório (se o objeto principal estiver definido) |
|
|
A contagem mínima do acelerador. Obrigatório (se o objeto principal estiver definido) |
|
|
Os componentes (de InferenceConfigComponents) foram mesclados nessa configuração. Obrigatório |
|
|
A outra da HubContent qual essa configuração depende. Opcional |
|
|
O nome da métrica (taxa de transferência, latência etc.). Obrigatório |
|
|
O valor medido. Obrigatório |
|
|
A unidade (tokens/s, ms e assim por diante). Obrigatório |
|
|
Uma etiqueta de exibição para a métrica. Opcional |
|
|
O nível de concorrência no qual foi medido. Opcional |
|
|
O tipo de aceleração (compilador, fusão de kernel e assim por diante). Obrigatório |
|
|
Especifica se essa aceleração é aplicada. Obrigatório |
|
|
O compilador usado. Opcional |
|
|
A versão do compilador. Opcional |
|
|
O sinalizador de substituição do fluxo de trabalho do tipo faça você mesmo (DIY). Opcional |
|
|
O motivo da substituição. Opcional |
|
|
Uma descrição da dimensão de classificação (por exemplo, “o mais barato primeiro”). Opcional |
|
|
A lista ordenada de nomes de configuração para essa classificação. Opcional |
