使用提示管理建立提示 - Amazon Bedrock

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

使用提示管理建立提示

注意

提示管理處於預覽狀態，可能會有所變更。

當您建立提示時，您有下列選項：

  • 撰寫作為 FM 輸入的提示訊息，以產生輸出。

  • 在提示訊息中包含可在執行階段填入的變數。

  • 選擇要執行提示的模型，或讓其在執行階段填入。如果您選擇模型，也可以修改要使用的推論組態。若要查看不同模型的推論參數，請參閱 基礎模型的推論請求參數和回應欄位。

  • 建立使用不同訊息、模型或組態的提示變體，以便比較其輸出，以決定最適合使用案例的變體。

若要了解如何使用提示管理建立提示，請選取與您所選方法對應的索引標籤，然後遵循下列步驟：

Console
建立提示

  1. AWS Management Console 使用IAM具有 Amazon Bedrock 許可 的角色登入 ，並在開始使用 AWS Management Console 時開啟 Amazon Bedrock 主控台。

  2. 從左側導覽窗格中選取提示管理。然後，選擇建立提示 。

  3. （選用） 變更提示的預設名稱及其描述 。

  4. 選擇建立提示 。您的提示已建立，系統會將您引導至新建立提示的提示建置器，您可以在其中設定提示。

  5. 您可以繼續下列程序來設定提示，或稍後返回提示建置器。

設定提示

  1. 如果您尚未在提示建置器中，請執行下列動作：

    1. AWS Management Console 使用IAM具有 Amazon Bedrock 許可 的角色登入 ，並在開始使用 AWS Management Console 時開啟 Amazon Bedrock 主控台。

    2. 從左側導覽窗格中選取提示管理。然後，在提示區段中選擇提示。

    3. 在提示草稿區段中，選擇提示建置器 中的編輯。

  2. 在提示窗格中，在訊息方塊中輸入提示。您可以使用雙捲髮支架來包含變數 （如 中的 {{variable}}）。 請注意下列提示變數：

    • 您包含的每個變數都會顯示在測試變數區段中。

    • 您可以在測試提示時或在提示流程中設定提示時，以實際值取代這些變數。

  3. （選用） 您可以透過以下方式修改提示：

    • 在組態窗格中，選擇執行推論的模型，並設定推論參數 。

    • 若要比較提示的不同變體，請選擇動作，然後選擇比較提示變體 。您可以在比較頁面上執行下列動作：

      • 若要新增變體，請選擇加號。您最多可以新增三個變體。

      • 指定變體的詳細資訊後，您可以指定任何測試變量，然後選擇執行來測試變體的輸出。

      • 若要刪除變體，請選擇三個點，然後選擇從比較中移除 。

      • 若要取代工作草稿並離開比較模式，請選擇另存為草稿 。所有其他變體都會遭到刪除。

      • 若要離開比較模式，請選擇結束比較模式 。

  4. 當您完成設定提示時，您有下列選項：

API

若要建立提示，請使用 Amazon Bedrock 建置時間端點的代理程式傳送CreatePrompt請求 （請參閱請求和回應格式的連結以及欄位詳細資訊）。

下列是必要欄位：

欄位 簡短描述
name 提示的名稱。
變體 提示的不同組態清單 （請參閱下文）。
defaultVariant 預設變體的名稱。

variants 清單中的每個變體都是下列一般結構的PromptVariant物件：

{
        "name": "string",
        "modelId": "string",
        "templateType": "TEXT",
        "templateConfiguration": {
            "text": {
                "text": "string",
                "inputVariables": [
                    {
                        "name": "string"
                    },
                    ...
                ]
            }
        },
        "inferenceConfiguration": {
            "text": {
                "maxTokens": int,
                "stopSequences": ["string", ...],
                "temperature": float,
                "topK": int,
                "topP": float
            }
        },
        "metadata": [
            {
                "key": "string",
                "value": "string"
            },
            ...
        ]
}

填寫欄位，如下所示：

  • name – 輸入變體的名稱。

  • modelId – 輸入要執行推論的模型 ID 或推論設定檔。

  • templateType – 輸入 TEXT（目前僅支援文字提示）。

  • templateConfiguration – text 欄位會映射至 TextPromptTemplateConfiguration。填寫其中的下列欄位：

    • text – 提示的訊息。將變數括在雙捲曲支架中：{{variable}}.

    • inputVariables – 針對清單中的每個物件，輸入您在 name 欄位中建立的每個變數。

  • inferenceConfiguration – text 欄位對應至 PromptModelInferenceConfiguration。若要進一步了解推論參數，請參閱 利用推論參數影響回應產生。

  • 中繼資料 – 要與提示變體建立關聯的中繼資料。您可以將鍵值對附加到陣列，以使用中繼資料標記提示變體。

下列欄位為選用欄位：

欄位 使用案例
description 為提示提供描述。
clientToken 為確保API請求僅完成一次。如需詳細資訊，請參閱確保意識模糊 。
標籤 將標籤與流程建立關聯。如需詳細資訊，請參閱標記 Amazon Bedrock 資源。
customerEncryptionKeyArn 使用KMS金鑰加密流程。如需詳細資訊，請參閱允許 Amazon Bedrock 加密和解密流程的金鑰政策。

回應會建立DRAFT版本並傳回 IDARN，而且您可以將其用作其他提示相關API請求的提示識別符。