AnthropicClaude模型 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

AnthropicClaude模型

本节提供推理参数和使用AnthropicClaude模型的代码示例。

您可以使用 Amazon Bedrock 发送AnthropicClaude文字补全 APIAnthropicClaude消息 API推断请求。

您可以使用消息 API 来创建对话应用程序,例如虚拟助手或指导应用程序。将文本补全 API 用于单圈文本生成应用程序。例如,为博客文章生成文本或摘要用户提供的文本。

您可以使用InvokeModelInvokeModelWithResponseStream(流式传输)向AnthropicClaude模型发出推理请求。您需要获得希望使用的模型的模型 ID。要获取模型的AnthropicClaude模型 ID,请参阅Amazon Bedrock 基本模型 ID(按需吞吐量) 用于购买预配置吞吐量的 Amazon Bedrock 基本型号

注意

要在推理调用中使用系统提示,必须使用 2.1 Anthropic Claude 版本或AnthropicClaude 3模型,例如AnthropicClaude 3 Opus。有关创建系统提示的信息,请参阅AnthropicClaude文档中的 https://docs.anthropic.com/claude/docs/ how-to-use-system-prompts

为避免在 2.1 Anthropic Claude 版本中出现超时,我们建议将prompt字段中的输入令牌数量限制为 180K。我们希望尽快解决这个超时问题。

在推理调用中,在body字段中填入符合您要进行的类型调用的 JSON 对象,AnthropicClaude文字补全 API或。AnthropicClaude消息 API

有关为AnthropicClaude模型创建提示的信息,请参阅AnthropicClaude文档中的提示设计简介