Paramètres de demande d'inférence et champs de réponse pour les modèles de base

Cette section décrit les paramètres de demande et les champs de réponse pour les modèles fournis par Amazon Bedrock. Utilisez ces informations pour effectuer des appels d'inférence vers des modèles avec les opérations InvokeModeland InvokeModelWithResponseStream(streaming). Cette section inclut également Python des exemples de code qui montrent comment appeler des modèles. Pour utiliser un modèle dans une opération d'inférence, vous avez besoin de son identifiant. Pour obtenir l'ID du modèle, voirModèle Amazon Bedrock IDs. Certains modèles fonctionnent également avec les Converse. API Pour vérifier si la Converse est API compatible avec un modèle spécifique, voirModèles pris en charge et caractéristiques des modèles. Pour plus d'exemples de code, consultezExemples de code pour Amazon Bedrock utilisant AWS SDKs.

Vous pouvez éventuellement définir des paramètres d'inférence pour influencer la réponse générée par le modèle. Si vous utilisez un modèle personnalisé, utilisez les mêmes paramètres d'inférence que le modèle de base à partir duquel il a été personnalisé.

Les modèles de base d'Amazon Bedrock prennent en charge les modalités d'entrée et de sortie, qui varient d'un modèle à l'autre. Pour vérifier les modalités prises en charge par un modèle, voirModèles de fondation pris en charge dans Amazon Bedrock. Pour savoir quelles fonctionnalités Amazon Bedrock sont prises en charge par un modèle, consultezSupport des modèles par fonctionnalité. Pour vérifier AWS dans quelles régions un modèle est disponible, consultezSupport des modèles par AWS région.

Lorsque vous effectuez des appels d'inférence vers un modèle, vous incluez une invite pour le modèle. Pour obtenir des informations générales sur la création d'invites pour les modèles pris en charge par Amazon Bedrock, consultez. Concepts d'ingénierie rapides