使用遊樂場在視覺化介面中產生回應 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

使用遊樂場在視覺化介面中產生回應

Amazon 基岩遊樂場是 AWS Management Console 它提供了一個可視化界面,以實驗在不同模型上運行推論並使用不同的配置。您可以使用 playgrounds 來測試不同的模型和值,然後再將它們整合到您的應用程式中。

在操場中執行提示等同於在API. InvokeModelInvokeModelWithResponseStreamConverseStream

Amazon 基岩提供以下遊樂場供您嘗試:

  • 聊天 — 提交文字提示,並包含任何影像或文件以補充提示。您提交的後續提示將包括之前的提示作為內容,使得提示和回應的順序類似於交談。

  • 文字 — 提交單一文字提示並產生回應。

  • 圖片 — 提交文字提示以產生影像。您也可以提交影像提示,並指定是要編輯影像提示還是產生變體。

下列程序說明如何在遊樂場提交提示、您可以調整的選項,以及模型產生回應後可採取的動作。

使用遊樂場
  1. 如果您尚未行動,可請求存取您要使用的模型。如需詳細資訊,請參閱存取 Amazon Bedrock 基礎模型

  2. 登入 AWS Management Console 使用具有 Amazon 基岩許可的IAM角色,並在以下位置打開 Amazon 基岩控制台。https://console.aws.amazon.com/bedrock/

  3. 在導覽窗格的遊樂場下方,選擇聊天文字影像

  4. 選擇選取型號,然後選取要使用的提供者、型號和輸送量。如需輸送量類型的詳細資訊,請參閱提高彈性和處理能力的輸送量

  5. 提交下列資訊以產生回應:

    • 提示 — 為模型設定案例、問題或工作的一或多個文字句子。如需有關建立提示詞的資訊,請參閱 提示工程概念

      如果您使用的是聊天遊樂場,您可以選取 [選擇檔案] 或將檔案拖曳至提示文字欄位,以包含檔案以補充您的提示。您可以在提示文字中參照檔案,例如Summarize this document for meTell me what's in this image。您可以包含下列類型的檔案:

      • 文件 — 新增文件以補充提示。如需支援的檔案類型清單,請參閱中的format欄位DocumentBlock

        警告

        文件名稱容易受到提示插入的影響,因為模型可能會不小心將它們解譯為指示。因此,建議您指定中性名稱。

      • 影像 — 如果模型支援多模式提示,則新增影像以補充提示。如需支援檔案類型的清單,請參閱中的format欄位ImageBlock

      注意

      當您將檔案新增至聊天遊樂場時,會有下列限制:

      • 您最多可以包含 20 張圖片。每張圖片的大小、高度和寬度分別不得超過 3.75 MB、8,000 像素和 8,000 像素。

      • 您最多可以包含五份文件。每個文件的大小必須不超過 4.5 MB。

    • 配置 — 您調整以修改模型響應的設置。配置包括以下內容:

  6. (可選)如果模型支持流式傳輸,則文本或聊天遊戲場中的默認行為是流式傳輸響應。您可以選擇選項圖示 ( Vertical ellipsis icon representing a menu or more options. ) 並修改「串流」偏好設定選項來關閉串流

  7. (可選)在聊天遊戲區中,您可以執行以下操作來比較來自不同模型的回應:

    1. 開啟比較模式

    2. 選擇選取型號,然後選取要使用的提供者、型號和輸送量。

    3. 選擇模型組態圖示 ( Three horizontal sliders with adjustable circular controls for settings or parameters. ) 來修改要使用的模型組態。

    4. 要加入更多要比較的模型,請選擇右側的 + 圖示,選擇一個模型,然後視需要修改模型組態。

  8. 若要執行提示,請選擇 [執行]。Amazon 基岩不會儲存您提供的任何文字、影像或文件。數據僅用於生成響應。

    注意

    如果回應違反內容仲裁政策,Amazon Bedrock 就不會顯示該回應內容。如果您已開啟串流功能,Amazon Bedrock 會在產生違反政策的內容時清除整個回應。如需詳細資訊,請瀏覽至 Amazon Bedrock 主控台,選取供應商,然後閱讀內容限制區段下方的文字。

  9. 該模型返回響應。如果您使用的是聊天遊樂場,則可以提交提示以回复響應並生成另一個響應。

  10. 產生回應之後,您可以選擇下列選項:

    • 若要將回應匯出為JSON檔案,請選擇選項圖示 ( Vertical ellipsis icon representing a menu or more options. ),然後選取 [匯出為] JSON。

    • 若要檢視您所提出的API請求,請選擇選項圖示 ( Vertical ellipsis icon representing a menu or more options. ),然後選取檢視API請求

    • 在聊天遊樂場中,您可以在「模型指標」部分中查看指標。以下是可用的模型指標:

      • 延遲 — 模型依序產生每個字符 (字) 所需的時間。

      • 輸入字符計數 — 在推論期間饋入模型中做為輸入的字符數。

      • 輸出字符計數 — 為回應提示而產生的字符數。更長、更多對話式回應需要更多字符。

      • 成本 — 處理輸入和產生輸出字符的成本。

      若要設定您希望回應符合的測量結果條件,請選擇「定義量度條件」,然後定義模型要符合的條件。套用條件之後,「模型測量結果」段落會顯示回應符合的數量和條件。

      如果未滿足條件,您可以選擇不同的模型、重新寫入提示或修改組態並重新執行提示。