As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Usando modelos de fundação
Você deve solicitar acesso a um modelo antes de poder usá-lo. Depois de fazer isso, você pode usar os FMs das seguintes maneiras.
-
Execute inferências enviando solicitações para um modelo e gerando respostas. Os playgrounds oferecem uma interface amigável AWS Management Console para gerar texto, imagens ou bate-papos. Consulte a coluna Modalidade de saída para determinar os modelos que você pode usar em cada playground.
nota
Os playgrounds do console não suportam a execução de inferência em modelos de incorporação. Use a API para executar inferências em modelos de incorporação.
-
Avalie os modelos para comparar os resultados e determinar o melhor modelo para seu caso de uso.
-
Configure uma base de conhecimento com a ajuda de um modelo de incorporação. Em seguida, use um modelo de texto para gerar respostas às consultas.
-
Crie um agente e use um modelo para executar inferências em prompts para realizar a orquestração.
-
Personalize um modelo alimentando dados de treinamento e validação para ajustar os parâmetros do modelo para seu caso de uso. Para usar um modelo personalizado, você deve comprar o Provisioned Throughput para ele.
-
Compre a taxa de transferência provisionada para um modelo para aumentar a taxa de transferência.
Para usar um FM na API, você precisa determinar o ID do modelo apropriado a ser usado.
Caso de uso | Como encontrar o ID do modelo |
---|---|
Use um modelo básico | Procure o ID no gráfico de IDs do modelo básico |
Compre taxa de transferência provisionada para um modelo básico | Procure a ID no gráfico de IDs do modelo para a taxa de transferência provisionada e use-a como modelId na solicitação. CreateProvisionedModelThroughput |
Compre taxa de transferência provisionada para um modelo personalizado | Use o nome do modelo personalizado ou seu ARN como modelId na CreateProvisionedModelThroughputsolicitação. |
Use um modelo provisionado | Depois de criar uma taxa de transferência provisionada, ela retorna a. provisionedModelArn Esse ARN é o ID do modelo. |
Use um modelo personalizado | Compre a taxa de transferência provisionada para o modelo personalizado e use a devolvida provisionedModelArn como ID do modelo. |