使用游乐场在可视界面中生成响应 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

使用游乐场在可视界面中生成响应

Amazon Bedrock 游乐场是一个工具 AWS Management Console 它们提供了一个可视化界面,用于尝试在不同的模型上运行推理和使用不同的配置。在将不同的模型和值集成到应用程序之前,您可以使用游乐场测试不同的模型和值。

在操场上运行提示等同于在操场中发出InvokeModelInvokeModelWithResponseStreamConverseConverseStream请求。API

Amazon Bedrock 提供以下游乐场供你试用:

  • 聊天 — 提交文本提示并附上任何图像或文档以补充提示。您提交的后续提示将包括您之前的提示作为上下文,因此提示和回复的顺序类似于对话。

  • 文本-提交单个文本提示并生成回复。

  • 图片-提交文本提示以生成图像。您也可以提交图片提示并指定是对其进行编辑还是生成其变体。

以下过程描述了如何在Playground中提交提示、您可以调整的选项以及模型生成响应后可以采取的操作。

使用操场
  1. 如果您还没有使用过模型,请先针对要使用的模型请求模型访问权限。有关更多信息,请参阅 访问 Amazon Bedrock 基础模型

  2. 登录 AWS Management Console 使用具有 Amazon Bedrock 权限的IAM角色,然后打开 Amazon Bedrock 控制台,网址为。https://console.aws.amazon.com/bedrock/

  3. 在导航窗格中,在操场下,选择聊天文本图像

  4. 选择 Select model,然后选择要使用的提供商、模型和吞吐量。有关吞吐量类型的更多信息,请参阅提高吞吐量,提高弹性和处理能力

  5. 提交以下信息以生成响应:

    • 提示-为模型设置场景、问题或任务的一句或多句文本。有关创建提示的信息,请参阅 提示工程概念

      如果您使用的是聊天平台,则可以选择 “选择文件” 或将文件拖到提示文本字段以包含文件来补充您的提示。您可以在提示文本中引用该文件,例如Summarize this document for meTell me what's in this image。您可以包括以下类型的文件:

      • 文档-添加文档以补充提示。有关支持的文件类型的列表,请参阅中的format字段DocumentBlock

        警告

        文档名称容易受到提示注入的影响,因为模型可能会无意中将其解释为指令。因此,我们建议您指定一个中性名称。

      • 图像-如果模型支持多模式提示,则添加图像以补充提示。有关支持的文件类型的列表,请参阅中的format字段ImageBlock

      注意

      向聊天平台添加文件时,有以下限制:

      • 您最多可以包含 20 张图片。每张图片的大小、高度和宽度必须分别不超过 3.75 MB、8,000 像素和 8,000 像素。

      • 您最多可以包括五个文档。每个文档的大小不得超过 4.5 MB。

    • 配置-您为修改模型响应而调整的设置。配置包括以下内容:

  6. (可选)如果模型支持直播,则文字或聊天游戏场中的默认行为是直播响应。您可以通过选择选项图标 ( Vertical ellipsis icon representing a menu or more options. ) 并修改 “直播首选项” 来关闭流式传输

  7. (可选)在聊天平台中,您可以通过执行以下操作来比较不同模型的响应:

    1. 启用比较模式

    2. 选择 Select model,然后选择要使用的提供商、模型和吞吐量。

    3. 选择配置图标 ( Three horizontal sliders with adjustable circular controls for settings or parameters. ) 以修改要使用的配置。

    4. 要添加更多模型进行比较,请选择右侧的 + 图标,选择一个型号,然后根据需要修改配置。

  8. 要运行提示,请选择 Run。Amazon Bedrock 不会存储您提供的任何文本、图像或文档。数据仅用于生成响应。

    注意

    如果响应违反了内容审核政策,则 Amazon Bedrock 不会显示该响应。如果您已开启流式传输,Amazon Bedrock 会在生成违反政策的内容时清除整个响应。要了解更多详细信息,请导航至 Amazon Bedrock 控制台,选择提供商,然后阅读内容限制部分下的文本。

  9. 模型返回响应。如果您使用的是聊天平台,则可以提交提示以回复回复并生成其他响应。

  10. 生成响应后,您可以选择以下选项:

    • 要将响应导出为JSON文件,请选择选项图标 ( Vertical ellipsis icon representing a menu or more options. ),然后选择导出为JSON

    • 要查看您提出的API请求,请选择选项图标 ( Vertical ellipsis icon representing a menu or more options. ),然后选择查看API请求

    • 在聊天平台中,您可以在 “模型指标” 部分中查看指标。以下模型指标可用:

      • 延迟 – 模型生成序列中每个词元(字词)所花费的时间。

      • 输入词元计数 – 在推理期间以输入形式输入到模型中的词元数量。

      • 输出词元计数 – 响应提示时生成的词元数量。更长、更像对话的响应需要更多词元。

      • 成本 – 处理输入和生成输出词元的成本。

      要设置您希望响应匹配的指标标准,请选择定义指标标准并定义模型要匹配的条件。应用标准后,模型指标部分会显示响应满足的标准数量和标准。

      如果未满足标准,则可以选择其他型号,重写提示符,或者修改配置并重新运行提示。