Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Utiliser un garde-corps avec des opérations d'inférence pour évaluer les entrées de l'utilisateur
Vous pouvez utiliser des garde-corps pour les opérations d'inférence de base InvokeModelet InvokeModelWithResponseStream(streaming). Cette section explique comment évaluer de manière sélective les entrées utilisateur et comment configurer le comportement de réponse au streaming. Notez que pour les applications conversationnelles, vous pouvez obtenir les mêmes résultats avec le Converse API.
Par exemple, le code qui appelle les opérations d'inférence de base, voirSoumettez une seule invite avec InvokeModel. Pour plus d'informations sur l'utilisation d'un garde-corps avec les opérations d'inférence de base, suivez les étapes décrites dans l'onglet API de. Testez un garde-corps
Rubriques
