Usando modelos de fundação - Amazon Bedrock

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Usando modelos de fundação

Você deve solicitar acesso a um modelo antes de poder usá-lo. Depois de fazer isso, você pode usar os FMs das seguintes maneiras.

  • Execute inferências enviando solicitações para um modelo e gerando respostas. Os playgrounds oferecem uma interface amigável AWS Management Console para gerar texto, imagens ou bate-papos. Consulte a coluna Modalidade de saída para determinar os modelos que você pode usar em cada playground.

    nota

    Os playgrounds do console não suportam a execução de inferência em modelos de incorporação. Use a API para executar inferências em modelos de incorporação.

  • Avalie os modelos para comparar os resultados e determinar o melhor modelo para seu caso de uso.

  • Configure uma base de conhecimento com a ajuda de um modelo de incorporação. Em seguida, use um modelo de texto para gerar respostas às consultas.

  • Crie um agente e use um modelo para executar inferências em prompts para realizar a orquestração.

  • Personalize um modelo alimentando dados de treinamento e validação para ajustar os parâmetros do modelo para seu caso de uso. Para usar um modelo personalizado, você deve comprar o Provisioned Throughput para ele.

  • Compre a taxa de transferência provisionada para um modelo para aumentar a taxa de transferência.

Para usar um FM na API, você precisa determinar o ID do modelo apropriado a ser usado.

Caso de uso Como encontrar o ID do modelo
Use um modelo básico Procure o ID no gráfico de IDs do modelo básico
Compre taxa de transferência provisionada para um modelo básico Procure a ID no gráfico de IDs do modelo para a taxa de transferência provisionada e use-a como modelId na solicitação. CreateProvisionedModelThroughput
Compre taxa de transferência provisionada para um modelo personalizado Use o nome do modelo personalizado ou seu ARN como modelId na CreateProvisionedModelThroughputsolicitação.
Use um modelo provisionado Depois de criar uma taxa de transferência provisionada, ela retorna a. provisionedModelArn Esse ARN é o ID do modelo.
Use um modelo personalizado Compre a taxa de transferência provisionada para o modelo personalizado e use a devolvida provisionedModelArn como ID do modelo.