根基模型的推理参数 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

根基模型的推理参数

本节介绍了您可以在 Amazon Bedrock 提供的基础模型中使用的推理参数。

(可选)设置推理参数以影响模型生成的响应。你可以在控制台的操场上设置推理参数,或者在InvokeModelInvokeModelWithResponseStreamAPI 的body字段中设置推理参数。

在调用模型时,还可以包括对模型的提示。有关编写提示的信息,请参阅 提示工程准则

以下各节定义了可用于每个基础模型的推理参数。对于自定义模型,请使用与自定义它时所依据的基础模型相同的推理参数。