本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
基础模型的推理请求参数和响应字段
本节中的主题介绍了 Amazon Bedrock 提供的模型的请求参数和响应字段。当您使用模型调用(InvokeModel、InvokeModelWithResponseStream、C onverse 和 ConverseStream)API 操作对模型进行推理调用时,可以根据所使用的模型添加请求参数。
如果您创建了自定义模型,请使用与自定义该模型的基础模型相同的推理参数。
如果您要将自定义模型导入 Amazon Bedrock,请确保使用与要导入的自定义模型相同的推理参数。如果您使用的推理参数与本文档中针对该模型提及的推理参数不匹配,则这些参数将被忽略。
在查看不同模型的模型参数之前,您应该阅读以下章节,熟悉什么是模型推理:。使用模型推理提交提示并生成响应
有关亚马逊 Bedrock 中不同型号的更多信息,请参阅以下页面:
-
有关模型及其 IDs 在模型调用 API 操作中使用的表、支持的区域以及它们支持的常规功能,请参阅Amazon Bedrock 中支持的根基模型。
-
有关支持每种型号的 Amazon 基岩区域的表,请参阅Amazon Bedroc AWS 区域 k 中的模型支持。
-
有关每种型号支持的 Amazon Bedrock 功能的表,请参阅按功能划分的模型支持。
-
要检查是否 Converse API(
Converse
和ConverseStream
)支持特定模型,请参阅支持的模型和模型功能。 -
使用模型进行推理调用时,您可以为模型创建提示。有关为 Amazon Bedrock 支持的模型创建提示的一般信息,请参阅 提示工程概念。
-
有关代码示例,请参阅 使用 Amazon Bedrock 的代码示例 AWS SDKs。
选择一个主题以了解该提供者的模型及其参数。