本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
使用遊樂場在視覺化介面中產生回應
Amazon 基岩遊樂場是 AWS Management Console 它提供了一個可視化界面,以實驗在不同模型上運行推論並使用不同的配置。您可以使用 playgrounds 來測試不同的模型和值,然後再將它們整合到您的應用程式中。
在操場中執行提示等同於在API. InvokeModelInvokeModelWithResponseStreamConverseStream
Amazon 基岩提供以下遊樂場供您嘗試:
-
聊天 — 提交文字提示,並包含任何影像或文件以補充提示。您提交的後續提示將包括之前的提示作為內容,使得提示和回應的順序類似於交談。
-
文字 — 提交單一文字提示並產生回應。
-
圖片 — 提交文字提示以產生影像。您也可以提交影像提示,並指定是要編輯影像提示還是產生變體。
下列程序說明如何在遊樂場提交提示、您可以調整的選項,以及模型產生回應後可採取的動作。
使用遊樂場
-
如果您尚未行動,可請求存取您要使用的模型。如需詳細資訊,請參閱存取 Amazon Bedrock 基礎模型。
-
登入 AWS Management Console 使用具有 Amazon 基岩許可的IAM角色,並在以下位置打開 Amazon 基岩控制台。https://console.aws.amazon.com/bedrock/
-
在導覽窗格的遊樂場下方,選擇聊天、文字或影像。
-
選擇選取型號,然後選取要使用的提供者、型號和輸送量。如需輸送量類型的詳細資訊,請參閱提高彈性和處理能力的輸送量。
-
提交下列資訊以產生回應:
-
提示 — 為模型設定案例、問題或工作的一或多個文字句子。如需有關建立提示詞的資訊,請參閱 提示工程概念。
如果您使用的是聊天遊樂場,您可以選取 [選擇檔案] 或將檔案拖曳至提示文字欄位,以包含檔案以補充您的提示。您可以在提示文字中參照檔案,例如
Summarize this document for me
或Tell me what's in this image
。您可以包含下列類型的檔案:-
文件 — 新增文件以補充提示。如需支援的檔案類型清單,請參閱中的
format
欄位DocumentBlock。警告
文件名稱容易受到提示插入的影響,因為模型可能會不小心將它們解譯為指示。因此,建議您指定中性名稱。
-
影像 — 如果模型支援多模式提示,則新增影像以補充提示。如需支援檔案類型的清單,請參閱中的
format
欄位ImageBlock。
注意
當您將檔案新增至聊天遊樂場時,會有下列限制:
-
您最多可以包含 20 張圖片。每張圖片的大小、高度和寬度分別不得超過 3.75 MB、8,000 像素和 8,000 像素。
-
您最多可以包含五份文件。每個文件的大小必須不超過 4.5 MB。
-
-
配置 — 您調整以修改模型響應的設置。配置包括以下內容:
-
推論參數 — 影響或限制模型產生回應方式的值。如需詳細資訊,請參閱利用推論參數影響回應產生。若要查看特定模型的推論參數,請參閱基礎模型的推論請求參數和回應欄位。
-
系統提示 — 提示,提供有關模型應執行的任務或其應採用的角色的指示或前後關聯。這些僅在聊天遊樂場提供。若要取得更多資訊和支援系統提示的模型清單,請參閱〈〉與 Converse API操作進行對話。
-
護欄 — 過濾掉提示和模型響應中的有害或不需要的內容。如需詳細資訊,請參閱使用 Amazon 基岩護欄阻止模型中的有害內容。
-
-
-
(可選)如果模型支持流式傳輸,則文本或聊天遊戲場中的默認行為是流式傳輸響應。您可以選擇選項圖示 ( ) 並修改「串流」偏好設定選項來關閉串流。
-
(可選)在聊天遊戲區中,您可以執行以下操作來比較來自不同模型的回應:
-
開啟比較模式。
-
選擇選取型號,然後選取要使用的提供者、型號和輸送量。
-
選擇模型組態圖示 ( ) 來修改要使用的模型組態。
-
要加入更多要比較的模型,請選擇右側的 + 圖示,選擇一個模型,然後視需要修改模型組態。
-
-
若要執行提示,請選擇 [執行]。Amazon 基岩不會儲存您提供的任何文字、影像或文件。數據僅用於生成響應。
注意
如果回應違反內容仲裁政策,Amazon Bedrock 就不會顯示該回應內容。如果您已開啟串流功能,Amazon Bedrock 會在產生違反政策的內容時清除整個回應。如需詳細資訊,請瀏覽至 Amazon Bedrock 主控台,選取供應商,然後閱讀內容限制區段下方的文字。
-
該模型返回響應。如果您使用的是聊天遊樂場,則可以提交提示以回复響應並生成另一個響應。
-
產生回應之後,您可以選擇下列選項:
-
若要將回應匯出為JSON檔案,請選擇選項圖示 ( ),然後選取 [匯出為] JSON。
-
若要檢視您所提出的API請求,請選擇選項圖示 ( ),然後選取檢視API請求。
-
在聊天遊樂場中,您可以在「模型指標」部分中查看指標。以下是可用的模型指標:
-
延遲 — 模型依序產生每個字符 (字) 所需的時間。
-
輸入字符計數 — 在推論期間饋入模型中做為輸入的字符數。
-
輸出字符計數 — 為回應提示而產生的字符數。更長、更多對話式回應需要更多字符。
-
成本 — 處理輸入和產生輸出字符的成本。
若要設定您希望回應符合的測量結果條件,請選擇「定義量度條件」,然後定義模型要符合的條件。套用條件之後,「模型測量結果」段落會顯示回應符合的數量和條件。
如果未滿足條件,您可以選擇不同的模型、重新寫入提示或修改組態並重新執行提示。
-
-