Anthropic Claude Modelos da - Amazon Bedrock

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Anthropic Claude Modelos da

Esta seção descreve os parâmetros de solicitação e os campos de resposta para Anthropic Claude modelos. Use essas informações para fazer chamadas de inferência para Anthropic Claude modelos com as operações InvokeModele InvokeModelWithResponseStream(streaming). Esta seção também inclui Python exemplos de código que mostram como chamar Anthropic Claude modelos. Para usar um modelo em uma operação de inferência, o ID do modelo é necessário. Para obter o ID do modelo, consulte Modelos de base compatíveis no Amazon Bedrock. Alguns modelos também funcionam com o Converse API. Para verificar se o Converse APIsuporta um específico Anthropic Claude modelo, vejaModelos compatíveis e recursos do modelo. Para obter mais exemplos de código, consulte Exemplos de código para o Amazon Bedrock usando AWS SDKs.

Os modelos de base no Amazon Bedrock são compatíveis com as modalidades de entrada e saída, que variam de modelo para modelo. Para verificar as modalidades que Anthropic Claude suporte de modelos, consulteModelos de base compatíveis no Amazon Bedrock. Para verificar qual Amazon Bedrock apresenta o Anthropic Claude suporte de modelos, consulteModelos de base compatíveis no Amazon Bedrock. Para verificar quais AWS regiões que Anthropic Claude os modelos estão disponíveis em, consulteModelos de base compatíveis no Amazon Bedrock.

Quando você faz chamadas de inferência com Anthropic Claude modelos, você inclui uma solicitação para o modelo. Para obter informações gerais sobre como criar prompts para os modelos compatíveis com o Amazon Bedrock, consulte Conceitos de engenharia de prompts. Para Anthropic Claude informações imediatas específicas, consulte o Anthropic Claude guia de engenharia rápido.

É possível usar o Amazon Bedrock para enviar solicitações de inferência API Text Completions do Claude da Anthropic ou Anthropic Claude Mensagens API.

Você usa as mensagens API para criar aplicativos de conversação, como um assistente virtual ou um aplicativo de treinamento. Use o preenchimento de texto API para aplicativos de geração de texto de um único turno. Por exemplo, para gerar texto para uma postagem de blog ou resumir o texto fornecido por um usuário.

Anthropic Claude os modelos suportam o uso de XML tags para estruturar e delinear seus prompts. Por exemplo, você pode incluir exemplos em seu prompt com uma <examples> tag. Use nomes de tags descritivos para obter os resultados ideais. Para obter mais informações, consulte Usar XML tags no guia do usuário do Anthropic.

nota

Para usar os prompts do sistema em chamadas de inferência, use um dos seguintes modelos:

  • Anthropic Claude 3.5 Sonnet

  • Anthropic Claude versão 2.1

  • Anthropic Claude 3 modelo, como Anthropic Claude 3 Opus

Para obter informações sobre a criação de prompts do sistema, consulte https://docs.anthropic.com/claude/docs/ how-to-use-system -prompts no Anthropic Claude documentação.

Para evitar tempos limite com Anthropic Claude versão 2.1, recomendamos limitar a contagem de tokens de entrada no prompt campo a 180K. Esperamos resolver esse problema de tempo limite em breve.

Na chamada de inferência, preencha o body campo com um JSON objeto que esteja em conformidade com a chamada de tipo que você deseja fazer, API Text Completions do Claude da Anthropic ou. Anthropic Claude Mensagens API

Tópicos