Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Après avoir configuré un compartiment Amazon S3 avec des fichiers pour exécuter l'inférence de modèles, vous pouvez créer une tâche d'inférence par lots. Avant de commencer, vérifiez que vous avez configuré les fichiers conformément aux instructions décrites dansFormatez et téléchargez vos données d'inférence par lots.
Note
Pour soumettre une tâche d'inférence par lots à l'aide d'un VPC, vous devez utiliser l'API. Sélectionnez l'onglet API pour savoir comment inclure la configuration du VPC.
Pour savoir comment créer une tâche d'inférence par lots, choisissez l'onglet correspondant à votre méthode préférée, puis suivez les étapes suivantes :
Pour créer une tâche d'inférence par lots
-
Connectez-vous à l' AWS Management Console aide d'un rôle IAM avec les autorisations Amazon Bedrock et ouvrez la console Amazon Bedrock à l'adresse. https://console.aws.amazon.com/bedrock/
-
Dans le volet de navigation de gauche, sélectionnez Batch inference.
-
Dans la section Tâches d'inférence par lots, choisissez Create job.
-
Dans la section Détails de la tâche, attribuez un nom à la tâche d'inférence par lots et sélectionnez le modèle à utiliser pour la tâche d'inférence par lots en choisissant Select model.
-
Dans la section Données d'entrée, choisissez Browse S3 et sélectionnez un emplacement S3 pour votre tâche d'inférence par lots. L'inférence par lots traite tous les fichiers JSONL et les fichiers de contenu associés à cet emplacement S3, qu'il s'agisse d'un dossier S3 ou d'un seul fichier JSONL.
Note
Si les données d'entrée se trouvent dans un compartiment S3 appartenant à un compte différent de celui à partir duquel vous soumettez le travail, vous devez utiliser l'API pour soumettre le travail d'inférence par lots. Pour savoir comment procéder, sélectionnez l'onglet API ci-dessus.
-
Dans la section Données de sortie, choisissez Browse S3 et sélectionnez un emplacement S3 pour stocker les fichiers de sortie de votre tâche d'inférence par lots. Par défaut, les données de sortie seront cryptées par un Clé gérée par AWS. Pour choisir une clé KMS personnalisée, sélectionnez Personnaliser les paramètres de chiffrement (avancés) et choisissez une clé. Pour plus d'informations sur le chiffrement des ressources Amazon Bedrock et la configuration d'une clé KMS personnalisée, consultezChiffrement des données.
Note
Si vous prévoyez d'écrire les données de sortie dans un compartiment S3 appartenant à un compte différent de celui à partir duquel vous soumettez le travail, vous devez utiliser l'API pour soumettre le travail d'inférence par lots. Pour savoir comment procéder, sélectionnez l'onglet API ci-dessus.
-
Dans la section Accès au service, sélectionnez l'une des options suivantes :
-
Utiliser une fonction du service existante : sélectionnez une fonction du service dans la liste déroulante. Pour plus d’informations sur la configuration d’un rôle personnalisé avec les autorisations appropriées, consultez Autorisations requises pour l'inférence par lots.
-
Créer et utiliser une nouvelle fonction du service : entrez un nom pour la fonction du service.
-
-
(Facultatif) Pour associer des balises à la tâche d'inférence par lots, développez la section Tags et ajoutez une clé et une valeur facultative pour chaque balise. Pour de plus amples informations, veuillez consulter Marquer les ressources Amazon Bedrock.
-
Choisissez Create batch inference job (Créer une tâche d'inférence par lots).