使用提示管理建立提示 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

使用提示管理建立提示

當您建立提示時,您有下列選項:

  • 撰寫提示訊息做為 FM 的輸入,以產生輸出。

  • 使用雙大括號,在提示訊息{{variable}}中包含變數 (如 ),當您呼叫提示時可以填入。

  • 選擇要叫用提示的模型,或者,如果您計劃將提示與客服人員搭配使用,請保留未指定。如果您選擇模型,您也可以修改要使用的推論組態。若要查看不同模型的推論參數,請參閱基礎模型的推論請求參數和回應欄位

如果您選擇用於提示的模型支援 內容 API(如需詳細資訊,請參閱 與 進行對話 Converse API 操作),您可以在建構提示時包含下列項目:

  • 系統提示,提供 模型的指示或內容。

  • 先前的提示 (使用者訊息) 和模型回應 (輔助訊息) 做為模型在產生最終使用者訊息的回應時要考量的對話歷史記錄。

  • (如果模型支援) 模型在產生回應時使用的工具

若要了解如何使用提示管理建立提示,請選擇您偏好方法的標籤,然後遵循下列步驟:

Console
建立提示
  1. AWS Management Console 使用IAM具有 Amazon Bedrock 許可的角色登入 ,並在 入門 AWS Management Console中開啟 Amazon Bedrock 主控台。

  2. 從左側導覽窗格中選取提示管理。然後,選擇建立提示

  3. 提供提示的名稱和選用的描述。

  4. 若要使用客戶受管金鑰加密提示,請在KMS金鑰選取區段中選取自訂加密設定 (進階)。如果您省略此欄位,您的提示將使用 加密 AWS 受管金鑰。如需詳細資訊,請參閱 AWS KMS 金鑰

  5. 選擇建立提示。您的提示已建立,系統會將您導向至新建立提示的提示建置器,您可以在其中設定提示。

  6. 您可以繼續下列程序來設定提示,或稍後返回提示建置器。

設定提示
  1. 如果您尚未在提示建置器中,請執行下列動作:

    1. AWS Management Console 使用IAM具有 Amazon Bedrock 許可的角色登入 ,並在 入門 AWS Management Console中開啟 Amazon Bedrock 主控台。

    2. 從左側導覽窗格中選取提示管理。然後,在提示區段中選擇提示

    3. 提示草稿區段中,選擇在提示建置器中編輯

  2. 使用提示窗格來建構提示。在最後一個使用者訊息方塊中輸入提示。如果模型支援 Converse API或 AnthropicClaude 訊息 API,您也可以包含系統提示和先前的使用者訊息,以及內容的助理訊息

    當您撰寫提示時,可以在雙大括號中包含變數 (如 所示{{variable}})。您包含的每個變數都會出現在測試變數區段中。

  3. (選用) 您可以透過以下方式修改提示:

    • 組態窗格中,執行下列動作:

      1. 選擇執行推論的生成式 AI 資源

        注意

        如果您選擇客服人員,您只能在 主控台中測試提示。若要了解如何在 中使用 代理程式測試提示API,請參閱 使用提示管理測試提示

      2. 設定推論參數

      3. 如果您選擇的模型支援工具,請選擇設定工具以搭配提示使用工具。

    • 若要比較提示的不同變體,請選擇動作,然後選取比較提示變體。您可以在比較頁面上執行下列動作:

      • 若要新增變體,請選擇加號。您最多可以新增三個變體。

      • 指定變體的詳細資訊後,您可以指定任何測試變數,然後選擇執行來測試變體的輸出。

      • 若要刪除變體,請選擇三個點,然後選取從比較中移除

      • 若要取代工作草稿並離開比較模式,請選擇另存為草稿。所有其他變體都會遭到刪除。

      • 若要離開比較模式,請選擇結束比較模式

  4. 當您完成設定提示時,您有下列選項:

API

若要建立提示,請使用 Amazon Bedrock 建置時間端點的代理程式傳送CreatePrompt請求。

下列是必要欄位:

欄位 簡短描述
name 提示的名稱。
變體 提示的不同組態清單 (請參閱下方)。
defaultVariant 預設變體的名稱。

variants 清單中的每個變體都是下列一般結構的PromptVariant物件:

{ "name": "string", # modelId or genAiResource (see below) "templateType": "TEXT", "templateConfiguration": # see below, "inferenceConfiguration": { "text": { "maxTokens": int, "stopSequences": ["string", ...], "temperature": float, "topP": float } }, "additionalModelRequestFields": { "key": "value", ... }, "metadata": [ { "key": "string", "value": "string" }, ... ] }

填寫欄位,如下所示:

  • name – 輸入變體的名稱。

  • 根據要使用的模型調用資源,包含下列其中一個欄位:

    • modelId – 若要指定基礎模型推論描述檔以搭配提示使用,請輸入其 ARN或 ID。

    • genAiResource – 若要指定代理程式,請輸入其 ID 或 ARN。的值genAiResource是下列格式的JSON物件:

      { "genAiResource": { "agent": { "agentIdentifier": "string" } }
      注意

      如果您包含 genAiResource 欄位,則只能在 主控台中測試提示。若要在 中測試客服人員的提示API,您必須直接在 inputText欄位中輸入提示的文字 InvokeAgent 請求。

  • templateType – 輸入 TEXTCHATCHAT 僅與支援 Converse 的模型相容API。

  • templateConfiguration – 值取決於您指定的範本類型:

  • inferenceConfiguration – text 欄位會映射至 PromptModelInferenceConfiguration。此欄位包含所有模型通用的推論參數。若要進一步了解推論參數,請參閱利用推論參數影響回應產生

  • additionalModelRequest欄位 – 使用此欄位指定您執行推論的模型特有的推論參數。若要進一步了解模型特定的推論參數,請參閱 基礎模型的推論請求參數和回應欄位

  • 中繼資料 – 要與提示變體建立關聯的中繼資料。您可以將鍵/值對附加到陣列,以使用中繼資料標記提示變體。

下列欄位為選用:

欄位 使用案例
description 提供提示的描述。
clientToken 為確保API請求僅完成一次。如需詳細資訊,請參閱確保等冪。
標籤 將標籤與流程建立關聯。如需詳細資訊,請參閱標記 Amazon Bedrock 資源

回應會建立DRAFT版本並傳回 IDARN,而且您可以用它做為其他提示相關API請求的提示識別符。