Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Points de terminaison pris en charge par Amazon Bedrock
Amazon Bedrock prend en charge différents points de terminaison selon que vous souhaitez effectuer des opérateurs de plan de contrôle ou des opérations d'inférence.
Opérations du plan de contrôle
Les opérations du plan de contrôle Amazon Bedrock peuvent être utilisées avec le point de terminaison : bedrock.{region}.amazonaws.com. elles peuvent être utilisées pour gérer les ressources, telles que la liste des modèles disponibles, la création de tâches de modèles personnalisés et la gestion du débit provisionné. Pour en savoir plus sur notre API de plan de contrôle, cliquez ici.
Opérations d'inférence
Amazon Bedrock prend en charge les deux principaux points de terminaison suivants pour effectuer des inférences par programmation :
| Point de terminaison | Soutenu APIs | Description |
|---|---|---|
bedrock-mantle.{region}.api.aws |
API de réponses/API de fin de chat/API de messages | Points de terminaison spécifiques à une région pour effectuer des demandes d'inférence pour les modèles hébergés dans Amazon Bedrock à l'aide des points de terminaison compatibles OpenAI et de l'API Anthropic Messages. |
bedrock-runtime.{region}.amazonaws.com |
InvokeModel/Converse//Achèvement du chat//API de messages | Points de terminaison spécifiques à une région pour effectuer des demandes d'inférence pour les modèles hébergés dans Amazon Bedrock à l'aide du/. InvokeModel Converse/Chat Completions/Messages APIs Pour en savoir plus sur Amazon Bedrock Runtime, cliquez APIs ici. |
Quel point de terminaison de service devez-vous utiliser pour votre inférence ?
Le point de terminaison que vous utilisez dépend de votre cas d'utilisation.
| Point de terminaison | Fonctionnalités et cas d'utilisation |
|---|---|
bedrock-mantle |
Utilisation pour : migrer facilement depuis d'autres modèles utilisant la compatibilité APIs OpenAI. Caractéristiques : prend en charge l'utilisation des outils côté client et côté serveur avec les fonctions Lambda et est configuré avec des ready-to-use outils dans vos applications. Recommandé pour : Nouveaux utilisateurs d'Amazon Bedrock. |
bedrock-runtime |
Utilisation pour : exécuter n'importe quel modèle compatible avec Amazon Bedrock. L'API Converse fournit une interface unifiée pour interagir avec tous les modèles d'Amazon Bedrock et l'API Invoke fournit un accès direct aux modèles avec une meilleure capacité à contrôler le format des demandes et des réponses. Vous pouvez également utiliser l'API Chat Completions pour interagir avec vos modèles. Caractéristiques : prend en charge uniquement l'utilisation d'outils côté client avec les fonctions Lambda et n'est pas préconfiguré avec les outils. ready-to-use Vous permet de suivre l'utilisation et les coûts lorsque vous invoquez un modèle. |
Si vous utilisez Amazon Bedrock pour la première fois, nous vous recommandons de commencer par le bedrock-mantle point de terminaison.
Réduisez les coûts de sortie de données grâce aux points de terminaison d'interface VPC
Si vous appelez Amazon Bedrock depuis un VPC, pensez à utiliser des points de terminaison d'interface VPC (AWS) pour maintenir le trafic au sein du réseau PrivateLink AWS et éviter les frais de sortie de données associés aux passerelles NAT ou aux passerelles Internet.
