本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
使用游乐场在可视界面中生成响应
Amazon Bedrock 游乐场是一个工具 AWS Management Console 它们提供了一个可视化界面,用于尝试在不同的模型上运行推理和使用不同的配置。在将不同的模型和值集成到应用程序之前,您可以使用游乐场测试不同的模型和值。
在操场上运行提示等同于在操场中发出InvokeModel、InvokeModelWithResponseStream、Converse 或ConverseStream请求。API
Amazon Bedrock 提供以下游乐场供你试用:
-
聊天 — 提交文本提示并附上任何图像或文档以补充提示。您提交的后续提示将包括您之前的提示作为上下文,因此提示和回复的顺序类似于对话。
-
文本-提交单个文本提示并生成回复。
-
图片-提交文本提示以生成图像。您也可以提交图片提示并指定是对其进行编辑还是生成其变体。
以下过程描述了如何在Playground中提交提示、您可以调整的选项以及模型生成响应后可以采取的操作。
使用操场
-
如果您还没有使用过模型,请先针对要使用的模型请求模型访问权限。有关更多信息,请参阅 访问 Amazon Bedrock 基础模型。
-
登录 AWS Management Console 使用具有 Amazon Bedrock 权限的IAM角色,然后打开 Amazon Bedrock 控制台,网址为。https://console.aws.amazon.com/bedrock/
-
在导航窗格中,在操场下,选择聊天、文本或图像。
-
选择 Select model,然后选择要使用的提供商、模型和吞吐量。有关吞吐量类型的更多信息,请参阅提高吞吐量,提高弹性和处理能力。
-
提交以下信息以生成响应:
-
提示-为模型设置场景、问题或任务的一句或多句文本。有关创建提示的信息,请参阅 提示工程概念。
如果您使用的是聊天平台,则可以选择 “选择文件” 或将文件拖到提示文本字段以包含文件来补充您的提示。您可以在提示文本中引用该文件,例如
Summarize this document for me
或Tell me what's in this image
。您可以包括以下类型的文件:-
文档-添加文档以补充提示。有关支持的文件类型的列表,请参阅中的
format
字段DocumentBlock。警告
文档名称容易受到提示注入的影响,因为模型可能会无意中将其解释为指令。因此,我们建议您指定一个中性名称。
-
图像-如果模型支持多模式提示,则添加图像以补充提示。有关支持的文件类型的列表,请参阅中的
format
字段ImageBlock。
注意
向聊天平台添加文件时,有以下限制:
-
您最多可以包含 20 张图片。每张图片的大小、高度和宽度必须分别不超过 3.75 MB、8,000 像素和 8,000 像素。
-
您最多可以包括五个文档。每个文档的大小不得超过 4.5 MB。
-
-
配置-您为修改模型响应而调整的设置。配置包括以下内容:
-
推理参数-影响或限制模型生成响应方式的值。有关更多信息,请参阅 使用推理参数生成影响响应。要查看特定模型的推理参数,请参阅。基础模型的推理请求参数和响应字段
-
系统提示-向模型提供有关其应执行的任务或应采用的角色的说明或上下文的提示。这些仅在聊天平台中可用。有关更多信息以及支持系统提示的型号列表,请参阅与匡威API运营部门进行对话。
-
Guardrails — 过滤掉提示和模型响应中的有害或不需要的内容。有关更多信息,请参阅 使用 Amazon Bedrock Guardrails 阻止模型中的有害内容。
-
-
-
(可选)如果模型支持直播,则文字或聊天游戏场中的默认行为是直播响应。您可以通过选择选项图标 ( ) 并修改 “直播首选项” 来关闭流式传输。
-
(可选)在聊天平台中,您可以通过执行以下操作来比较不同模型的响应:
-
启用比较模式。
-
选择 Select model,然后选择要使用的提供商、模型和吞吐量。
-
选择配置图标 ( ) 以修改要使用的配置。
-
要添加更多模型进行比较,请选择右侧的 + 图标,选择一个型号,然后根据需要修改配置。
-
-
要运行提示,请选择 Run。Amazon Bedrock 不会存储您提供的任何文本、图像或文档。数据仅用于生成响应。
注意
如果响应违反了内容审核政策,则 Amazon Bedrock 不会显示该响应。如果您已开启流式传输,Amazon Bedrock 会在生成违反政策的内容时清除整个响应。要了解更多详细信息,请导航至 Amazon Bedrock 控制台,选择提供商,然后阅读内容限制部分下的文本。
-
模型返回响应。如果您使用的是聊天平台,则可以提交提示以回复回复并生成其他响应。
-
生成响应后,您可以选择以下选项:
-
要将响应导出为JSON文件,请选择选项图标 ( ),然后选择导出为JSON。
-
要查看您提出的API请求,请选择选项图标 ( ),然后选择查看API请求。
-
在聊天平台中,您可以在 “模型指标” 部分中查看指标。以下模型指标可用:
-
延迟 – 模型生成序列中每个词元(字词)所花费的时间。
-
输入词元计数 – 在推理期间以输入形式输入到模型中的词元数量。
-
输出词元计数 – 响应提示时生成的词元数量。更长、更像对话的响应需要更多词元。
-
成本 – 处理输入和生成输出词元的成本。
要设置您希望响应匹配的指标标准,请选择定义指标标准并定义模型要匹配的条件。应用标准后,模型指标部分会显示响应满足的标准数量和标准。
如果未满足标准,则可以选择其他型号,重写提示符,或者修改配置并重新运行提示。
-
-