与匡威API运营部门进行对话 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

与匡威API运营部门进行对话

您可以使用 Amazon Bedrock Converse API 创建对话应用程序,用于向 Amazon Bedrock 模型发送和接收消息。例如,您可以创建一个聊天机器人,该机器人可以在多个回合中保持对话,并使用适合您需求的角色或语气自定义,例如有用的技术支持助理。

要使用 ConverseAPI,您可以使用 ConverseConverseStream(用于流式传输响应)操作向模型发送消息。可以将现有的基础推理运算(InvokeModelInvokeModelWithResponseStream)用于对话应用程序。但是,我们建议使用匡威,API因为它提供了一致性API,适用于所有支持消息的 Amazon Bedrock 型号。这意味着您只需编写一次代码,即可将其用于不同的模型。如果模型具有唯一的推理参数,Converse API 还允许您在模型特定的结构中传递这些唯一参数。

您可以使用 Converse API 在应用程序中实现工具使用护栏

注意

随着 Mistral AI 以及 Meta 模型,Converse 会将你的输入API嵌入到特定于模型的提示模板中,该模板可以进行对话。

有关代码示例,请参阅以下内容: