使用工具來完成 Amazon Bedrock 模型回應 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

使用工具來完成 Amazon Bedrock 模型回應

您可以使用 Amazon Bedrock API 為模型提供工具的存取權,以協助其產生您傳送至模型之訊息的回應。例如,您可能有一個聊天應用程式,可讓使用者找到在廣播台上播放的最熱門歌曲。若要回應最熱門歌曲的請求,模型需要可以查詢並傳回歌曲資訊的工具。

注意

搭配模型使用的工具也稱為函數呼叫

在 Amazon Bedrock 中,模型不會直接呼叫工具。相反地,當您傳送訊息至模型時,您也可以提供一或多個工具的定義,以協助模型產生回應。在此範例中,您會為傳回指定廣播站最熱門歌曲的工具提供定義。如果模型判斷其需要工具來產生訊息的回應,則模型會回應您呼叫工具的請求。它也包含要傳遞給工具的輸入參數 (所需的廣播站)。

在程式碼中,您可以代表模型呼叫工具。在此案例中,假設工具實作是 API。該工具可以輕鬆成為資料庫、Lambda 函數或其他軟體。您可以決定如何實作工具。然後,您透過提供具有工具結果的訊息,繼續與模型的對話。最後,模型會產生原始訊息的回應,其中包含您傳送至模型的工具結果。

若要搭配模型使用工具,您可以使用 Converse API (ConverseConverseStream)。本主題中的範例程式碼使用 Converse API 示範如何使用工具,取得廣播站最熱門的歌曲。如需呼叫 的一般資訊 Converse API,請參閱 與 進行對話 Converse API 操作

您可以搭配基本推論操作 (InvokeModelInvokeModelWithResponseStream) 使用工具。若要尋找您在請求內文中傳遞的推論參數,請參閱您要使用的模型的推論參數。我們建議您使用 Converse API 因為它提供一致的 API,可與支援工具使用的所有 Amazon Bedrock 模型搭配使用。

如需支援工具呼叫的模型資訊,請參閱支援的模型和模型功能