本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
操场
重要
在使用任何基础模型之前,您必须通过 Amazon Bedrock 控制台请求访问该模型。您只能通过控制台管理模型访问权限。如果您在请求访问该模型之前尝试使用该模型(通过 API 或在控制台中),则会收到一条错误消息。有关更多信息,请参阅 管理对 Amazon Bedrock 基础模型的访问权限。
Amazon Bedrock 操场提供控制台环境,可让您尝试通过不同模型使用不同配置运行推理,然后再决定将哪个模型以及哪种配置用于应用程序。在控制台的左侧导航窗格中,选择操场即可访问操场。当您从模型详细信息页面或示例页面中选择模型时,也可以直接导航到操场。
提供适用于文本、聊天和图像模型的操场。
在每个操场中,您可以输入提示,并尝试使用推理参数。提示通常是一句或几句文字,用于为模型设定场景、问题或任务。有关创建提示的信息,请参阅 提示工程准则。
推理参数会影响模型生成的响应,例如生成文本的随机性。将模型加载到操场后,操场会使用其默认推理设置配置模型。在试用模型时,可以更改和重置设置。每个模型都有自己的一组推理参数。有关更多信息,请参阅 根基模型的推理参数。
如果模型支持(例如)AnthropicClaude 3 Sonnet,则可以指定系统提示符。系统提示是一种提示,它向模型提供有关其应执行的任务或在对话中应采用的角色的说明或上下文。例如,您可以指定系统提示,告诉模型在响应中生成代码,或者要求模型在生成响应时采用学校教师的角色。
在提交响应时,模型会使用其生成的输出进行响应。
如果聊天或文本模型支持流式传输,默认情况下,会流式传输模型的响应。您可以根据需要关闭流式传输。
聊天操场
通过聊天操场,您可以试用 Amazon Bedrock 提供的聊天模型。当你向模特提交提示时,你可以选择以下选项:
-
修改配置以影响响应。
-
包括图片(如果模型支持多式联运提示)或文档,然后向模型提交与该文档相关的提示。
响应与模型指标一起返回。
配置更改
您可以进行的配置更改因模型而异,但通常包括推理参数的更改,例如温度和顶部 K。 有关更多信息,请参阅推理参数。要查看特定模型的推理参数,请参阅根基模型的推理参数。
您可以设置一个或多个停止序列,如果这些序列由模型生成,则表示模型必须停止生成更多输出。
模型指标
聊天平台为其处理的提示创建以下指标。
-
延迟 – 模型生成序列中每个词元(字词)所花费的时间。
-
输入词元计数 – 在推理期间以输入形式输入到模型中的词元数量。
-
输出词元计数 – 响应提示时生成的词元数量。更长、更像对话的响应需要更多词元。
-
成本 – 处理输入和生成输出词元的成本。
您还可以定义模型响应需要满足的条件。
启用比较模式后,您可以将单个提示的聊天回应与最多三个模型的回应进行比较。这可以帮助您了解每个模型的比较性能,而无需在模型之间切换。有关更多信息,请参阅 使用操场。
文本操场
通过文本操场,您可以试用 Amazon Bedrock 提供的文本模型。您可以向模型提交文本,文本操场会显示模型根据提示生成的文本。
图像操场
通过图像操场,您可以试用 Amazon Bedrock 提供的图像模型。您可以向模型提交文本提示,图像操场会显示模型根据提示生成的图像。
除了设置推理参数外,您还可以进行其他配置更改(因型号而异):
使用操场
以下步骤展示了如何将提示提交到操场并查看响应。在每个操场中,您可以为模型配置推理参数。在聊天操场中,您可以查看指标,也可以选择比较最多三个模型的输出。在图像操场中,您可以更改高级配置,这些更改也因模型而异。
使用操场
如果您还没有使用过模型,请先针对要使用的模型请求模型访问权限。有关更多信息,请参阅 管理对 Amazon Bedrock 基础模型的访问权限。
-
打开 Amazon Bedrock 控制台。
-
在导航窗格中,在操场下,选择聊天、文本或图像。
-
选择选择模型以打开选择模型对话框。
-
在类别中,从可用的提供商或自定义模型中进行选择。
在模型中选择一个模型。
-
在吞吐量中,选择您希望模型使用的吞吐量(按需吞吐量或预调配吞吐量)。如果您使用自定义模型,则必须事先为模型设置预调配吞吐量。有关更多信息,请参阅Amazon Bedrock 的预配置吞吐量
选择 应用。
-
-
以下步骤是影响模型响应的可选步骤:
-
在配置中,选择要使用的推理参数。有关更多信息,请参阅 根基模型的推理参数。有关您可以在图像操场中进行的配置更改的信息,请参阅图像操场。
-
如果模型支持系统提示,则可以在系统提示文本框中输入系统提示。
-
如果您使用的是聊天平台,则可以选择 “选择文件” 或将文件拖到提示文本字段中,以包含以下类型的文件来补充您的提示:
-
文档-添加文档以补充提示。有关支持的文件类型的列表,请参阅中的
format
字段DocumentBlock。警告
文档名称容易受到提示注入的影响,因为模型可能会无意中将其解释为指令。因此,我们建议您指定一个中性名称。
-
图像-如果模型支持多模式提示,则添加图像以补充提示。有关支持的文件类型的列表,请参阅中的
format
字段ImageBlock。
注意
向聊天平台添加文件时,有以下限制:
-
您最多可以包含 20 张图片。每张图片的大小、高度和宽度必须分别不超过 3.75 MB、8,000 像素和 8,000 像素。
-
您最多可以包括五个文档。每个文档的大小不得超过 4.5 MB。
-
-
-
在文本字段中输入您的提示。提示是一种自然语言短语或命令,例如
Tell me about the best restaurants to visit in Seattle
。如果您包含图像或文档,则可以在提示中引用该图像或文档,例如Summarize this document for me
或Tell me what's in this image
。有关更多信息,请参阅 提示工程准则。注意
Amazon Bedrock 不会存储您提供的任何文本、图像或文档。数据仅用于生成响应。
-
Amazon Bedrock 不会存储您提供的任何文本、图像或文档。数据仅用于生成响应。要运行提示,请选择 Run。
注意
如果响应违反了内容审核政策,则 Amazon Bedrock 不会显示该响应。如果您已开启流式传输,Amazon Bedrock 会在生成违反政策的内容时清除整个响应。要了解更多详细信息,请导航至 Amazon Bedrock 控制台,选择提供商,然后阅读内容限制部分下的文本。
有关提示工程的信息,请参阅 提示工程准则。
-
如果您使用的是聊天平台,请执行以下操作来查看模型指标并比较模型。
-
在模型指标部分,查看每个模型的指标。
-
(可选)通过执行以下操作来定义要满足的条件:
-
选择定义指标条件。
-
对于要使用的指标,请选择条件和值。您可以设置以下条件:
-
小于 – 指标值小于指定值。
-
大于 – 指标值大于指定值。
-
-
选择应用以应用条件。
-
查看满足哪些条件。如果满足所有条件,总体摘要将显示满足所有条件。如果未满足 1 个或多个条件,总体摘要将显示未满足 n 个条件,未满足的条件将以红色突出显示。
-
-
(可选)通过执行以下操作添加模型进行比较:
启用比较模式。
-
选择选择模型以选择模型。
-
在对话框中,选择提供商、模型和吞吐量。
-
选择 应用。
-
(可选)选择每个模型旁边的菜单图标,以便为该模型配置推理参数。有关更多信息,请参阅 根基模型的推理参数。
-
选择 Chat Playground 部分右侧的 + 图标,添加第二个或第三个模型进行比较。
-
重复执行步骤 a-c 以选择要比较的模型。
在文本字段中输入提示,然后选择运行。
-