AnthropicClaudemodelos - Amazon Bedrock

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

AnthropicClaudemodelos

Esta seção fornece parâmetros de inferência e exemplos de código para o uso de Anthropic Claude modelos.

Você pode usar o Amazon Bedrock para enviar AnthropicClaudeAPI de conclusão de texto ou AnthropicClaudeAPI de mensagens inferir solicitações.

Você usa a API de mensagens para criar aplicativos de conversação, como um assistente virtual ou um aplicativo de treinamento. Use a API de preenchimento de texto para aplicativos de geração de texto de um único turno. Por exemplo, gerar texto para uma postagem de blog ou resumir o texto fornecido por um usuário.

Você faz solicitações de inferência para um Anthropic Claude modelo com InvokeModelou InvokeModelWithResponseStream(streaming). É necessário o ID do modelo que deseja usar. Para obter o ID do modelo para Anthropic Claude modelos, consulte IDs do modelo básico do Amazon Bedrock (taxa de transferência sob demanda) IDs do modelo básico do Amazon Bedrock para compra de taxa de transferência provisionada e.

nota

Para usar os prompts do sistema em chamadas de inferência, você deve usar a Anthropic Claude versão 2.1 ou um Anthropic Claude 3 modelo, como. Anthropic Claude 3 Opus Para obter informações sobre a criação de prompts do sistema, consulte https://docs.anthropic.com/claude/docs/ how-to-use-system -prompts na documentação. Anthropic Claude

Para evitar tempos limite com a Anthropic Claude versão 2.1, recomendamos limitar a contagem de tokens de entrada no prompt campo a 180K. Esperamos resolver esse problema de tempo limite em breve.

Na chamada de inferência, preencha o body campo com um objeto JSON que esteja em conformidade com a chamada de tipo que você deseja fazer, ou. AnthropicClaudeAPI de conclusão de texto AnthropicClaudeAPI de mensagens

Para obter informações sobre a criação de prompts para Anthropic Claude modelos, consulte Introdução ao design de prompts na Anthropic Claude documentação.