Preparar os conjuntos de dados

Para Titan, Cohere e Llama text-to-textmodelos, prepare um conjunto de dados de treinamento e validação opcional. Cada objeto JSON é uma amostra que contém um prompt e um campo completion. Use seis caracteres por token como uma aproximação do número de tokens. O formato é o seguinte:

{"prompt": "<prompt1>", "completion": "<expected generated text>"}
{"prompt": "<prompt2>", "completion": "<expected generated text>"}
{"prompt": "<prompt3>", "completion": "<expected generated text>"}      

Veja a seguir um exemplo de item para uma tarefa de pergunta e resposta:

{"prompt": "what is AWS", "completion": "it's Amazon Web Services"}

Amazon Nova os modelos esperam os dados de treinamento em uma estrutura JSON diferente. Esses modelos usam um prompt do sistema "role": "user" e "role": "assistant" mensagens para ajustar o modelo. O formato é o seguinte:

// train.jsonl
{
  "schemaVersion": "bedrock-conversation-2024",
  "system": [
    {
      "text": "You are a digital assistant with a friendly personality"
    }
  ],
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "text": "What is the capital of Mars?"
        }
      ]
    },
    {
      "role": "assistant",
      "content": [
        {
          "text": "Mars does not have a capital. Perhaps it will one day."
        }
      ]
    }
  ]
}

Para obter mais informações, siga as instruções em Diretrizes para preparar seus dados para o Amazon Nova.

Para text-to-image nossos image-to-embedding modelos, prepare um conjunto de dados de treinamento. Os conjuntos de dados de validação não são compatíveis. Cada objeto do JSON é uma amostra que contém uma image-ref, o URI do Amazon S3 de uma imagem e um caption que pode ser um prompt da imagem.

As imagens devem estar no formato JPEG ou PNG.

{"image-ref": "s3://bucket/path/to/image001.png", "caption": "<prompt text>"}
{"image-ref": "s3://bucket/path/to/image002.png", "caption": "<prompt text>"}
{"image-ref": "s3://bucket/path/to/image003.png", "caption": "<prompt text>"}    

Veja a seguir um exemplo de item.

{"image-ref": "s3://amzn-s3-demo-bucket/my-pets/cat.png", "caption": "an orange cat with white spots"}

Para permitir que o Amazon Bedrock acesse os arquivos de imagem, adicione uma política do IAM semelhante à de Permissões para acessar arquivos de treinamento e de validação e gravar os arquivos de saída no S3 ao perfil de serviço do Amazon Bedrock de personalização de modelo do Amazon Bedrock que você configurou ou que foi configurado automaticamente para você no console. Os caminhos do Amazon S3 que você fornece no conjunto de dados de treinamento devem estar nas pastas que você especifica na política.

Para realizar o pré-treinamento contínuo em um text-to-text modelo, prepare um conjunto de dados de treinamento e validação opcional. Como o pré-treinamento contínuo envolve dados não rotulados, cada linha do JSON é uma amostra que contém somente um campo de input. Use seis caracteres por token como uma aproximação do número de tokens. O formato é o seguinte.

{"input": "<input text>"}
{"input": "<input text>"}
{"input": "<input text>"}

Veja a seguir um exemplo de item que pode estar nos dados de treinamento.

{"input": "AWS stands for Amazon Web Services"}

Para ajustar um text-to-text modelo usando o formato de mensagem de turno único, prepare um conjunto de dados de treinamento e validação opcional. Os dois arquivos de dados devem estar no formato JSONL. Cada linha especifica uma amostra de dados completa no formato json; e cada amostra de dados deve ser formatada em uma linha (remova todo o '\n' em cada amostra). Uma linha com várias amostras de dados ou a divisão de uma amostra de dados em várias linhas não funcionará.

Campos

Regras

{"system": "<system message>","messages":[{"role": "user", "content": "<user query>"},{"role": "assistant", "content": "<expected generated text>"}]}

Exemplo

{"system": "You are an helpful assistant.","messages":[{"role": "user", "content": "what is AWS"},{"role": "assistant", "content": "it's Amazon Web Services."}]}

Para ajustar um text-to-text modelo usando o formato de mensagens de várias voltas, prepare um conjunto de dados de treinamento e validação opcional. Os dois arquivos de dados devem estar no formato JSONL. Cada linha especifica uma amostra de dados completa no formato json; e cada amostra de dados deve ser formatada em uma linha (remova todo o '\n' em cada amostra). Uma linha com várias amostras de dados ou a divisão de uma amostra de dados em várias linhas não funcionará.

Campos

Regras

{"system": "<system message>","messages":[{"role": "user", "content": "<user query 1>"},{"role": "assistant", "content": "<expected generated text 1>"}, {"role": "user", "content": "<user query 2>"},{"role": "assistant", "content": "<expected generated text 2>"}]}

Exemplo

{"system": "system message","messages":[{"role": "user", "content": "Hello there."},{"role": "assistant", "content": "Hi, how can I help you?"},{"role": "user", "content": "what are LLMs?"},{"role": "assistant", "content": "LLM means large language model."},]}  

Para preparar conjuntos de dados de treinamento e validação para um trabalho de destilação modelo, consulte. Pré-requisitos para a destilação do modelo Amazon Bedrock

Restrições de imagem e vídeo