Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Verwenden Sie ein Tool, um eine Antwort auf das Amazon Bedrock-Modell abzuschließen
Sie können Amazon Bedrock verwendenAPI, um einem Modell Zugriff auf Tools zu gewähren, mit deren Hilfe es Antworten auf Nachrichten generieren kann, die Sie an das Modell senden. Möglicherweise verfügen Sie über eine Chat-Anwendung, mit der Benutzer herausfinden können, welcher Song bei einem Radiosender am beliebtesten ist. Um eine Anfrage nach dem beliebtesten Song zu beantworten, benötigt ein Model ein Tool, das die Titelinformationen abfragen und zurückgeben kann.
Anmerkung
Die Verwendung von Tools mit Modellen wird auch als Funktionsaufruf bezeichnet.
In Amazon Bedrock ruft das Modell das Tool nicht direkt auf. Wenn Sie eine Nachricht an ein Modell senden, geben Sie stattdessen auch eine Definition für ein oder mehrere Tools an, die dem Modell möglicherweise dabei helfen könnten, eine Antwort zu generieren. In diesem Beispiel würden Sie eine Definition für ein Tool angeben, das den beliebtesten Song für einen bestimmten Radiosender zurückgibt. Wenn das Modell feststellt, dass es das Tool benötigt, um eine Antwort auf die Nachricht zu generieren, antwortet das Modell mit einer Aufforderung, das Tool aufzurufen. Es enthält auch die Eingabeparameter (den erforderlichen Radiosender), die an das Tool übergeben werden sollen.
In Ihrem Code rufen Sie das Tool im Namen des Modells auf. Gehen Sie in diesem Szenario davon aus, dass es sich bei der Implementierung des Tools um eine handeltAPI. Das Tool könnte genauso gut eine Datenbank, eine Lambda-Funktion oder eine andere Software sein. Sie entscheiden, wie Sie das Tool implementieren möchten. Anschließend setzen Sie die Konversation mit dem Modell fort, indem Sie eine Nachricht mit dem Ergebnis des Tools bereitstellen. Schließlich generiert das Modell eine Antwort auf die ursprüngliche Nachricht, die die Werkzeugergebnisse enthält, die Sie an das Modell gesendet haben.
Um Werkzeuge mit einem Modell zu verwenden, können Sie Converse API (Converse oder) verwenden. ConverseStream Der Beispielcode in diesem Thema zeigt anhand von ConverseAPI, wie Sie ein Tool verwenden, das den beliebtesten Song für einen Radiosender ermittelt. Allgemeine Informationen zum Aufrufen von Converse finden Sie API unter. Führen Sie ein Gespräch mit den Converse-Betrieben API
Es ist möglich, Tools mit den grundlegenden Inferenzoperationen (InvokeModeloder InvokeModelWithResponseStream) zu verwenden. Informationen zu den Inferenzparametern, die Sie im Hauptteil der Anfrage übergeben, finden Sie in den Inferenzparametern für das Modell, das Sie verwenden möchten. Wir empfehlen die Verwendung von Converse, API da es ein einheitliches System bietetAPI, das mit allen Amazon Bedrock-Modellen funktioniert, die die Verwendung von Tools unterstützen.
Informationen zu Modellen, die das Aufrufen von Tools unterstützen, finden Sie unter. Unterstützte Modelle und Modellfunktionen
