View a markdown version of this page

APIs suportadas pelo Amazon Bedrock - Amazon Bedrock

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

APIs suportadas pelo Amazon Bedrock

APIs de inferência suportadas

O Amazon Bedrock fornece cinco padrões principais de API para realizar inferências. Para novos aplicativos, recomendamos o bedrock-runtime endpoint. As APIs são agrupadas pelo endpoint de serviço que elas usam.

bedrock-runtimeendpoint (recomendado)

O bedrock-runtime.{region}.amazonaws.com endpoint é compatível com as seguintes APIs:

Método da API Use-case mais adequado para Característica chave
Converse (recomendado) Multi-turn bate-papo//padronização A API Converse fornece uma interface unificada para interagir com todos os modelos no Amazon Bedrock.
Invoke Transações únicas//Grandes cargas úteis A API Invoke fornece acesso direto aos modelos com mais controle sobre o formato de solicitação e resposta.
Respostas OpenAI-compatible, conversas com estado Use a API Responses para conversas OpenAI-compatible dinâmicas e em vários turnos — mesmo formato de OpenAI, além de recursos do Amazon Bedrock, como Detectar e filtrar conteúdo nocivo usando as Barreiras de Proteção do Amazon Bedrock Guardrails e inferência entre regiões. Encaminhe as solicitações de inferência do modelo entre Regiões da AWS com inferência entre regiões Ativadasbedrock-runtime, as solicitações são sempre síncronas e as ferramentas do lado do servidor não estão disponíveis — veja Endpoints compatíveis com o Amazon Bedrock a comparação completa.
Conclusões do chat OpenAI-compatible, bate-papo sem estado em vários turnos Use a API de conclusão de bate-papo para interações de bate-papo OpenAI-compatible sem estado.
API de mensagens Anthropic-native interface Use a API Messages InvokeModel para acessar diretamente os modelos antrópicos usando o formato de solicitação nativo.

Endpoint do bedrock-mantle

O bedrock-mantle.{region}.amazonaws.com endpoint é compatível com as seguintes APIs:

Método da API Use-case mais adequado para Característica chave
API de respostas Conversas dinâmicas com ferramentas do lado do servidor Use a API Responses bedrock-mantle para aplicativos agentes que exigem o uso de ferramentas integradas do lado do servidor (pesquisa, interpretador de código), entradas multimodais e inferência assíncrona.
API de mensagens Anthropic-native interface Use a API de mensagens para acesso direto aos modelos antrópicos usando o formato de Anthropic-native solicitação e resposta.
Conclusões do chat Bate-papo apátrida em vários turnos Use a API Chat Complements para tarefas leves, sem estado e focadas em texto, nas quais você precisa de controle total sobre o gerenciamento do histórico de bate-papo e menor latência.

Leia mais sobre as APIs suportadas pelo Amazon Bedrock.

Decidindo entre APIs

A API que você usa depende do seu caso de uso.

Caso de uso API recomendada
Migrando do endpoint OpenAI API-compatible Use a API OpenAI-compatible Responses ou a API Chat Completions no bedrock-runtime endpoint — mesmo formato de OpenAI, além de recursos do Amazon Bedrock, como Detectar e filtrar conteúdo nocivo usando as Barreiras de Proteção do Amazon Bedrock Guardrails e inferência entre regiões. Encaminhe as solicitações de inferência do modelo entre Regiões da AWS com inferência entre regiões De acordo com a OpenAI, a API recomendada a longo prazo é a API de respostas.
Usando modelos não compatíveis com o OpenAI-compatible endpoint Use APIs nativas do Amazon Bedrock: Converse e Invoke. Envie uma única solicitação com InvokeModel (movido) Para obter mais informações, consulte Inferência usando a API Invoke.
Interface consistente em todos os modelos API Converse - Funciona com todos os modelos que suportam mensagens. Escreva código uma vez e use-o com modelos diferentes. Para obter um exemplo de código, consulte exemplos da API Converse.
Acesso direto ao modelo com controle total Invoke API - Fornece acesso direto a modelos com mais controle sobre o formato de solicitação e resposta. Use para gerar texto, imagens e incorporações. Para obter um exemplo de código, consulte Exemplos de código de modelo Invoke.
Novo no Amazon Bedrock Recomendamos usar o bedrock-runtime endpoint com a API Converse para uma interface unificada entre modelos, ou a API de mensagens, a API de conclusão de bate-papo ou a API de respostas, se você preferir uma interface OpenAI ou. Anthropic-compatible

Modelos compatíveis com cada API e endpoint

Primeiro, navegue em nossos modelos para decidir qual modelo você deseja usar. Depois de decidir o modelo que deseja usar, você pode ver as APIs compatíveis e escolher um endpoint. Recomendamos o bedrock-runtime endpoint, que suporta as APIs Invoke, Converse, Responses, Chat Complements e Messages. O bedrock-mantle endpoint também é totalmente compatível e oferece as APIs de respostas, preenchimento de bate-papo e mensagens. Como as APIs de respostas, preenchimentos de bate-papo e mensagens estão disponíveis em ambos os endpoints, mas não têm suporte de recursos idêntico em cada um, consulte Endpoints compatíveis com o Amazon Bedrock antes de escolher.