遊樂場 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

遊樂場

重要

您必須請求存取任何基礎模型,然後才能使用該模型。如果在請求存取模型之前嘗試使用模型 (透過 API 或在主控台內),您會收到錯誤訊息。如需詳細資訊,請參閱 模型存取

Amazon Bedrock 遊樂場會為您提供一個主控台環境,在決定在應用程式中使用遊樂場之前,可先在不同模型用不同組態執行推論。在主控台的左側導覽窗格中,選擇遊樂場以存取遊樂場。當您從模型詳細資訊頁面或範例頁面中選擇模型時,也可以直接導覽至遊樂場。

遊樂場分別適用於文字、聊天和影像模型。

在每個遊樂場中,您可以輸入提示,並嘗試推論參數。提示通常是為模型設定情境、問題或任務的一或多個文字句子。如需有關建立提示詞的資訊,請參閱 提示詞工程指導方針

推論參數會影響模型產生的回應,例如產生文字的隨機性。當您將模型載入遊樂場時,遊樂場會使用其預設推論設定來設定模型組態。您可以在實驗模型時變更和重設設定值。每個模型有各自的推論參數。如需詳細資訊,請參閱 基礎模型的推論參數

如果模型支援,例如 AnthropicClaude 3 Sonnet,您可以指定系統提示。系統提示是一種提示類型,可為模型提供有關其應執行之工作或交談期間應採用的角色的指示或內容。例如,您可以指定系統提示,告知模型在回應中產生程式碼,或要求模型在產生回應時採用學校教師的角色。

當您提交回應時,模型會以其產生的輸出回應。

如果聊天或文字模型支援串流傳輸,則預設會從模型串流傳輸回應。如有需要,您可以關閉串流。

聊天遊樂場

聊天遊樂場可讓您試驗 Amazon Bedrock 提供的聊天模型。您可以向模型提交提示,聊天遊樂場會顯示來自模型的響應以及模型指標。您也可以透過變更模型組態來實驗模型。

組態變更

您可以對模型進行的組態變更,但通常包括推論參數變更,例如「溫度」和「Top K」。 如需詳細資訊,請參閱推論參數。若要查看特定模型的推論參數,請參閱基礎模型的推論參數

您可以設定一或多個停止序列,如果由模型產生,表示模型必須停止產生更多輸出。

模型指標

聊天遊樂場會為其處理的提示創建以下指標。

  • 延遲 — 模型依序產生每個字符 (字) 所需的時間。

  • 輸入字符計數 — 在推論期間饋入模型中做為輸入的字符數。

  • 輸出字符計數 — 為回應提示而產生的字符數。更長、更多對話式回應需要更多字符。

  • 成本 — 處理輸入和產生輸出字符的成本。

您也可以定義您希望模型回應比對的條件。

透過開啟比較模型,您可以將單一提示的聊天回應,與最多三個模型的回應進行比較。這有助於您了解每個模型的比較效能,無需在模型之間切換。如需詳細資訊,請參閱 使用遊樂場

文字遊樂場

文字遊樂場可讓您試驗 Amazon Bedrock 提供的文字模型。您可以將文字提交到模型,文字遊樂場顯示模型從提示詞產生的文字。

影像遊樂場

影像遊樂場可讓您試驗 Amazon Bedrock 提供的影像模型。您可以將文字提示提交到模型,而影像遊樂場會顯示模型為提示產生的影像。

除了設定推論參數之外,您還可以進行額外的組態變更 (因模型而異):

  • 模式 — 模型會產生新影像 (產生) 或編輯 (編輯) 您在「參考」影像中提供的影像。如果您編輯參考影像,則模型需要分割遮色片,以涵蓋您要模型編輯的影像區域。使用影像 plaground 在參考影像上繪製矩形,建立分割遮色片。或者,您可以透過指定遮罩提示 (僅限 Amazon G Titan Image Generator G1 enerator G1 映像) 來建立分段遮罩。

  • 遮罩提示 — 如果您使用 Amazon Titan Image Generator G1 模型編輯影像,可以使用遮罩提示來指定要分段遮罩覆蓋的物件。例如,您可以指定遮罩提示天空,以建立涵蓋影像中天空的分割遮罩。然後,您可以運行提示下雨天的圖像,以使圖像中的天空顯得下雨。

  • 負面提示 — 您不希望模型產生的項目或概念,例如卡通暴力

  • 參考影像 — 要在其上產生回應或您希望模型編輯的影像。

  • 回應影像 — 所產生影像的輸出設定,例如品質、方向、大小,以及要產生的影像數量。

  • 進階組態 — 要傳遞給模型的推論參數。

使用遊樂場

下列程序說明如何將提示提交至遊樂場,並檢視回應。在每個遊樂場中,您都可以設定模型的推論參數。在聊天遊樂場中,您可以查看指標,並可選擇性比較最多三個模型的輸出。在影像遊樂場中,您可以進行進階組態變更,這也會因模型而異。

使用遊樂場
  1. 如果您尚未行動,可請求存取您要使用的模型。如需詳細資訊,請參閱 模型存取

  2. 開啟 Amazon Bedrock 主控台。

  3. 在導覽窗格的遊樂場下方,選擇聊天文字影像

  4. 選擇選取模型以開啟選取模型對話方塊。

    1. 類別中,從可用的提供者或自訂模型中做選擇。

    2. 模型中,選擇模型。

    3. 輸送量中,選取您要模型使用的輸送量 (隨選或佈建的輸送量)。如果您使用自訂模型,則必須事先為模型設定佈建的輸送量。如需更多資訊,請參閱Amazon 基岩的佈建輸送量

    4. 選擇套用

  5. (選用) 在組態中,選擇您要使用的推論參數。如需詳細資訊,請參閱 基礎模型的推論參數。如需有關您可以在影像遊樂場中進行組態變更的詳細資訊,請參閱 影像遊樂場

  6. 在文字欄位中輸入您的提示。提示詞是自然語言片語或指令,例如 Tell me about the best restaurants to visit in Seattle.。如需詳細資訊,請參閱 提示詞工程指導方針

    如果您將聊天遊樂場與支援多模式提示的模型搭配使用,請選擇「影像」或將影像拖曳至提示文字欄位,將影像新增至提示字元。此外,如果模型支援系統提示,您可以在系統提示文字方塊中輸入系統提示

    注意

    如果回應違反內容仲裁政策,Amazon Bedrock 就不會顯示該回應內容。如果您已開啟串流功能,Amazon Bedrock 會在產生違反政策的內容時清除整個回應。如需詳細資訊,請瀏覽至 Amazon Bedrock 主控台,選取供應商,然後閱讀內容限制區段下方的文字。

    如需提示詞工程的相關資訊,請參閱 提示詞工程指導方針

  7. 選擇執行以執行提示。

  8. 如果您使用的是聊天遊樂場,請執行以下操作來檢視模型指標,並且比較模型。

    1. 模型指標區段中,檢視每個模型的指標。

    2. (選用) 透過執行下列操作來定義您要比對的條件:

      1. 選擇定義指標條件

      2. 針對您要使用的指標,選擇條件和值。您可設定以下條件:

        • 小於 — 指標值小於指定的值。

        • 大於 — 指標值大於指定的值。

      3. 選擇套用以套用您的條件。

      4. 檢視符合的條件。如果符合所有條件,則整體摘要符合所有條件。如果不符合 1 或多個條件,則整體摘要未符合 n 個條件,未符合的條件則會以紅色反白顯示。

    3. (選用) 透過執行以下操作來新增要比較的模型:

      1. 開啟比較模式

      2. 選擇選取模型以選取模型。

      3. 在對話方塊中,選擇提供者、模型和輸送量。

      4. 選擇套用

      5. (選用) 選擇每個模型旁邊的選單圖示,以設定該模型的推論參數。如需詳細資訊,請參閱 基礎模型的推論參數

      6. 選擇聊天遊樂場區段右側的 + 圖示,以新增第二個或第三個模型進行比較。

      7. 重複步驟 a-c 以選擇您要比較的模型。

      8. 在文字欄位中輸入您的提示詞,並選擇執行