Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Vous pouvez utiliser l'API Amazon Bedrock pour permettre à un modèle d'accéder à des outils qui peuvent l'aider à générer des réponses aux messages que vous lui envoyez. Par exemple, vous pouvez avoir une application de chat qui permet aux utilisateurs de trouver la chanson la plus populaire diffusée sur une station de radio. Pour répondre à une demande concernant la chanson la plus populaire, un modèle a besoin d'un outil capable d'interroger et de renvoyer les informations relatives à la chanson.
Note
L'utilisation d'outils avec des modèles est également connue sous le nom d'appel de fonctions.
Dans Amazon Bedrock, le modèle n'appelle pas directement l'outil. Au contraire, lorsque vous envoyez un message à un modèle, vous fournissez également une définition pour un ou plusieurs outils susceptibles d'aider le modèle à générer une réponse. Dans cet exemple, vous devez fournir la définition d'un outil qui renvoie la chanson la plus populaire pour une station de radio spécifiée. Si le modèle détermine qu'il a besoin de l'outil pour générer une réponse au message, il vous demande d'appeler l'outil. Il inclut également les paramètres d'entrée (la station radio requise) à transmettre à l'outil.
Dans votre code, vous appelez l'outil au nom du modèle. Dans ce scénario, supposons que l'implémentation de l'outil est une API. L'outil pourrait tout aussi bien être une base de données, une fonction Lambda ou un autre logiciel. Vous décidez de la manière dont vous souhaitez implémenter l'outil. Vous poursuivez ensuite la conversation avec le modèle en fournissant un message contenant le résultat de l'outil. Enfin, le modèle génère une réponse au message d'origine qui inclut les résultats de l'outil que vous avez envoyés au modèle.
Pour utiliser des outils avec un modèle, vous pouvez utiliser le Converse API (Converse ou ConverseStream). L'exemple de code présenté dans cette rubrique utilise le Converse API pour montrer comment utiliser un outil qui permet d'obtenir la chanson la plus populaire pour une station de radio. Pour obtenir des informations générales sur le fait d'appeler le Converse API, voirMenez une conversation avec le Converse Opérations d’API.
Il est possible d'utiliser des outils avec les opérations d'inférence de base (InvokeModelou InvokeModelWithResponseStream). Pour trouver les paramètres d'inférence que vous transmettez dans le corps de la demande, consultez les paramètres d'inférence du modèle que vous souhaitez utiliser. Nous vous recommandons d'utiliser le Converse API car elle fournit une API cohérente, qui fonctionne avec tous les modèles Amazon Bedrock compatibles avec l'utilisation d'outils.
Pour plus d'informations sur les modèles qui prennent en charge l'appel d'outils, consultezModèles pris en charge et caractéristiques des modèles.
Rubriques
