將 Amazon Bedrock 代理程式部署並整合到您的應用程式中 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

將 Amazon Bedrock 代理程式部署並整合到您的應用程式中

當您第一次建立 Amazon Bedrock 代理程式時,您會有一個工作草稿版本 (DRAFT) 和指向工作草稿版本的測試別名 (TSTALIASID)。當您變更代理程式時,變更會套用至工作草稿。您在工作草稿上反覆執行,直到您對客服人員的行為感到滿意為止。然後,您可以建立代理程式的別名,設定您的代理程式以部署和整合到您的應用程式。

若要部署代理程式,您必須建立別名。在別名建立期間,Amazon Bedrock 會自動建立代理程式的版本。別名指向這個新建立的版本。或者,您可以將別名指向先前建立的代理程式版本。然後,您可以設定應用程式來API呼叫該別名。

版本是快照,可保留建立時存在的資源。您可以視需要繼續修改工作草稿,並建立新的代理程式別名 (因此,版本)。在 Amazon Bedrock 中,您可以建立預設指向新版本的別名,以建立新版本的代理程式。Amazon Bedrock 按數字順序建立版本,從 1 開始。

版本是不可變的,因為它們在您建立代理程式時做為其快照。若要更新生產環境中的代理程式,您必須建立新的版本,並設定您的應用程式來呼叫指向該版本的別名。

使用別名時,您可以在不同版本的代理程式之間有效率地切換,而不需要應用程式追蹤版本。例如,如果有需要快速還原的變更,您可以變更別名以指向客服人員的先前版本。

部署您的代理程式
  1. 建立代理程式的別名和版本。選擇您偏好方法的索引標籤,然後遵循下列步驟:

    Console
    建立別名 (以及選用的新版本)
    1. AWS Management Console 使用IAM具有 Amazon Bedrock 許可的角色登入 ,並在 開啟 Amazon Bedrock 主控台https://console.aws.amazon.com/bedrock/

    2. 從左側導覽窗格中選取客服人員。然後,在客服人員區段中選擇客服人員

    3. 別名區段中,選擇建立

    4. 輸入唯一的別名名稱,並提供選用的描述

    5. 關聯版本下,選擇下列其中一個選項:

      • 若要建立新版本,請選擇建立新版本,並將其與此別名建立關聯

      • 若要使用現有版本,請選擇使用現有版本來關聯此別名。從下拉式功能表中,選擇您要與別名建立關聯的版本。

    6. 選取輸送量下,選取下列其中一個選項:

    7. 選取建立別名

    API

    若要建立代理程式的別名,請使用 Amazon Bedrock 建置時間端點的代理程式傳送CreateAgentAlias請求。

    下列是必要欄位:

    欄位 使用案例
    agentId 指定要為其建立別名的代理程式 ID。
    agentName 指定別名的名稱。

    下列欄位為選用:

    欄位 使用案例
    description 提供別名的描述。
    routingConfiguration 指定要將別名與 建立關聯的版本 (保留空白以建立新的版本),以及要與別名建立關聯的佈建輸送量
    clientToken 為確保API請求僅完成一次。如需詳細資訊,請參閱確保等冪。
    標籤 標籤與別名建立關聯。

    請參閱程式碼範例

  2. 透過設定您的應用程式來部署 代理程式,以建立 InvokeAgent Amazon Bedrock 執行時間端點的 代理程式請求。在 agentAliasId 欄位中,指定指向您要使用的代理程式版本的別名 ID。

    InvokeAgent 回應串流包含多個事件,每個回應部分的區塊會依序排列。您可以在串流組態true中將 設定為 streamFinalResponse,以選擇性地啟用串流。

    • 如果您的代理程式設定了 Guardrail,您也可以在 applyGuardrailInterval中指定 StreamingConfigurations,以控制對傳出回應字元 (例如,每 50 個字元) ApplyGuardrail的呼叫頻率

    • 回應串流目前僅支援 Orchestration 提示。

    • 串流目前不支援引文。

    • 確保客服人員執行角色包含已設定客服人員模型的bedrock:InvokeModelWithResponseStream許可。