Acheter un débit provisionné pour un modèle Amazon Bedrock - Amazon Bedrock

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Acheter un débit provisionné pour un modèle Amazon Bedrock

Lorsque vous achetez un débit provisionné pour un modèle, vous spécifiez le niveau d'engagement associé à ce dernier et le nombre d'unités de modèle (MUs) à allouer. Pour les quotas MU, consultez la section Points de terminaison et quotas Amazon Bedrock dans le. Références générales AWS Le nombre MUs que vous pouvez attribuer à vos débits provisionnés dépend de la durée d'engagement du débit provisionné :

  • Par défaut, votre compte vous en fournit 2 MUs à répartir entre les débits provisionnés sans engagement.

  • Si vous achetez un débit provisionné avec engagement, vous devez d'abord vous rendre au centre d'AWS assistance MUs pour demander que votre compte soit réparti entre les débits provisionnés avec engagement. Une fois votre demande acceptée, vous pouvez acheter un débit provisionné avec engagement.

Note

Après avoir acheté le Provisioned Throughput, vous ne pouvez modifier le modèle associé que si vous sélectionnez un modèle personnalisé. Vous pouvez remplacer le modèle associé par l'un des modèles suivants :

  • Le modèle de base à partir duquel il est personnalisé.

  • Un autre modèle personnalisé dérivé du même modèle de base.

Pour savoir comment acheter du débit provisionné pour un modèle, choisissez l'onglet correspondant à votre méthode préférée, puis suivez les étapes suivantes :

Console

  1. Connectez-vous à l' AWS Management Console aide d'un IAMrôle avec les autorisations Amazon Bedrock et ouvrez la console Amazon Bedrock à l'adresse. https://console.aws.amazon.com/bedrock/

  2. Sélectionnez Débit provisionné sous Évaluation et déploiement dans le volet de navigation de gauche.

  3. Dans la section Débit provisionné, choisissez Acheter un débit provisionné.

  4. Pour la section Détails du débit provisionné, procédez comme suit :

    1. Dans le champ Nom du débit provisionné, entrez le nom du débit provisionné.

    2. Sous Sélectionner un modèle, sélectionnez un fournisseur de modèles de base ou une catégorie de modèles personnalisée. Sélectionnez ensuite le modèle pour lequel vous souhaitez provisionner le débit.

      Note

      Pour connaître les modèles de base pour lesquels vous pouvez acheter du débit provisionné sans engagement, consultez. Région et modèles pris en charge pour le débit provisionné

      Dans la AWS GovCloud (US) région, vous ne pouvez acheter du débit provisionné que pour des modèles personnalisés sans engagement.

    3. (Facultatif) Pour associer des balises à votre débit provisionné, développez la section Tags et choisissez Ajouter une nouvelle balise. Pour de plus amples informations, veuillez consulter Marquer les ressources Amazon Bedrock.

  5. Pour la section Durée d'engagement et unités modèles, procédez comme suit :

    1. Dans la section Sélectionner la durée d'engagement, sélectionnez la durée pendant laquelle vous souhaitez vous engager à utiliser le débit provisionné.

    2. Dans le champ Unités du modèle, entrez le nombre souhaité d'unités du modèle (MUs). Si vous fournissez un modèle avec engagement, vous devez d'abord vous rendre au centre d'AWS assistance pour demander une augmentation du nombre de modèles MUs que vous pouvez acheter.

  6. Sous Récapitulatif des achats estimés, examinez le coût estimé.

  7. Choisissez Acheter du débit provisionné.

  8. Consultez la note qui apparaît et confirmez la durée et le prix de l’engagement en cochant la case correspondante. Choisissez ensuite Confirmer l’achat.

  9. La console affiche la page de présentation du débit provisionné. L'état du débit provisionné dans la table Débit provisionné devient Création. Lorsque le débit provisionné est terminé d'être créé, le statut devient En service. Si la mise à jour échoue, le statut devient Failed.

API

Pour acheter un débit provisionné, envoyez une CreateProvisionedModelThroughputdemande avec un point de terminaison du plan de contrôle Amazon Bedrock.

Note

Pour connaître les modèles de base pour lesquels vous pouvez acheter du débit provisionné sans engagement, consultez. Région et modèles pris en charge pour le débit provisionné

Dans la AWS GovCloud (US) région, vous ne pouvez acheter du débit provisionné que pour des modèles personnalisés sans engagement.

Le tableau suivant décrit brièvement les paramètres et le corps de la requête (syntaxe de la CreateProvisionedModelThroughput requête) :

Variable Obligatoire ? Cas d’utilisation
modelId Oui Pour spécifier l'ID du modèle de base ou ARN pour l'achat de Provisioned Throughput, ou le nom du modèle personnalisé ou ARN
modelUnits Oui Pour spécifier le nombre d'unités modèles (MUs) à acheter. Pour augmenter le nombre de MUs produits que vous pouvez acheter, visitez le centre d'AWS assistance pour demander une augmentation du nombre de produits MUs que vous pouvez acheter
provisionedModelName Oui Pour spécifier un nom pour le débit provisionné
commitmentDuration Non Pour spécifier la durée pendant laquelle vous souhaitez vous engager dans le débit provisionné. Omettez ce champ pour opter pour une tarification sans engagement
balises Non Pour associer des balises à votre débit provisionné
clientRequestToken Non Pour empêcher la duplication de la demande

La réponse renvoie un provisionedModelArn que vous pouvez utiliser comme inférence modelId dans le modèle. Pour vérifier si le débit provisionné est prêt à être utilisé, envoyez une GetProvisionedModelThroughputdemande et vérifiez que l'état est bien le cas. InService Si la mise à jour échoue, son statut sera Failed le même et la GetProvisionedModelThroughputréponse contiendra unfailureMessage.

Voir des exemples de code