View a markdown version of this page

使用工具完成 Amazon Bedrock 模型回應 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

使用工具完成 Amazon Bedrock 模型回應

您可以使用 Amazon Bedrock API 為模型提供工具的存取權,以協助其為您傳送至模型的訊息產生回應。例如,您可能有一個聊天應用程式,可以讓使用者知道廣播電台播放的熱門歌曲。為了回答熱門歌曲的請求,模型需要可以查詢並傳回歌曲資訊的工具。

注意

您現在可以搭配工具使用結構化輸出。如需詳細資訊,請參閱從模型取得經過驗證的 JSON 結果

在 Amazon Bedrock 中,模型不會直接呼叫工具。當您傳送訊息時,您也可以提供一或多個工具的定義,以協助模型產生回應。模型決定何時需要工具;您的應用程式程式碼 (或 Amazon Bedrock 本身,伺服器端模式) 會執行工具,並傳回模型的結果,以納入其最終回應中。

Amazon Bedrock 支援三種工具使用模式,取決於您呼叫的 API 和使用的模型系列:

Mode (模式) 執行工具的人員 使用時機
用戶端工具使用 您的應用程式程式碼,在模型傳回工具呼叫請求之後。 大多數使用案例。可用於回應、聊天完成、Converse 和 InvokeModel APIs。
伺服器端工具使用 Amazon Bedrock 本身。您註冊 Lambda 函數或 AgentCore Gateway,Amazon Bedrock 會代表模型叫用工具。 集中、安全的工具執行,無需管理應用程式中的協同運作。目前可在 Responses API 上使用。
Anthropic Claude 工具使用 您的應用程式程式碼,使用 Anthropic定義的工具類型 (computer_*bash_*text_editor_*memory_*) 和 Anthropic Messages API 請求格式。 在 或 上使用Claude模型的電腦使用、程式碼執行、檔案編輯、持久性記憶體bedrock-runtime或精細工具串流bedrock-mantle