As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Endpoints compatíveis com o Amazon Bedrock
O Amazon Bedrock oferece suporte a vários endpoints, dependendo se você deseja realizar operadores de plano de controle ou operações de inferência.
Operações do plano de controle
As operações do plano de controle do Amazon Bedrock podem ser usadas com o endpoint: bedrock.{region}.amazonaws.com. elas podem ser usadas para gerenciar recursos, como listar modelos disponíveis, criar trabalhos de modelos personalizados e gerenciar a taxa de transferência provisionada. Leia mais sobre nossa API de plano de controle aqui.
Operações de inferência
O Amazon Bedrock oferece suporte aos dois endpoints principais a seguir para realizar inferências de forma programática:
| Endpoint | Suportado APIs | Descrição |
|---|---|---|
bedrock-mantle.{region}.api.aws |
API de respostas//API de conclusão de bate-papo//API de mensagens | Endpoints específicos da região para fazer solicitações de inferência para modelos hospedados no Amazon Bedrock usando os endpoints compatíveis com OpenAI e a API Anthropic Messages. |
bedrock-runtime.{region}.amazonaws.com |
InvokeModel/Converse/Conclusões de bate-papo/API de mensagens | Endpoints específicos da região para fazer solicitações de inferência para modelos hospedados no Amazon Bedrock usando o/. InvokeModel Converse/Chat Completions/Messages APIs Leia mais sobre o Amazon Bedrock Runtime APIs aqui. |
Qual endpoint de serviço você deve usar para sua inferência?
O endpoint que você usa depende do seu caso de uso.
| Endpoint | Características e casos de uso |
|---|---|
bedrock-mantle |
Use para: Migrar facilmente de outros modelos que usam o compatível com APIs OpenAI. Características: Suporta o uso de ferramentas do lado do cliente e do servidor com as funções Lambda e vem configurado com ready-to-use ferramentas em seus aplicativos. Recomendado para: Novos usuários do Amazon Bedrock. |
bedrock-runtime |
Use para: Executar qualquer modelo compatível com o Amazon Bedrock. A API Converse fornece uma interface unificada para interagir com todos os modelos no Amazon Bedrock e a API Invoke fornece acesso direto aos modelos com mais capacidade de controlar o formato de solicitação e resposta. Você também pode usar a API Chat Completions para interagir com seus modelos. Características: Suporta somente o uso de ferramentas do lado do cliente com funções Lambda e não vem pré-configurado com ferramentas. ready-to-use Permite que você acompanhe o uso e os custos ao invocar um modelo. |
Se você é novo no Amazon Bedrock, recomendamos que comece com o bedrock-mantle endpoint.
Reduza os custos de saída de dados com endpoints de interface VPC
Se você estiver ligando para o Amazon Bedrock de dentro de uma VPC, considere usar endpoints de interface VPC (AWS) para manter o tráfego na rede PrivateLink da AWS e evitar cobranças de saída de dados associadas a gateways NAT ou gateways de internet.
