本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
當您第一次建立 Amazon Bedrock 代理程式時,您會有一個工作草稿版本 (DRAFT
) 和指向工作草稿版本的測試別名 (TSTALIASID
)。當您變更代理程式時,變更會套用至工作草稿。您在工作草稿上反覆執行,直到您對客服人員的行為感到滿意為止。然後,您可以透過建立代理程式的別名,設定您的代理程式以部署和整合到您的應用程式。
若要部署代理程式,您必須建立別名。在別名建立期間,Amazon Bedrock 會自動建立代理程式的版本。別名指向這個新建立的版本。或者,您可以將別名指向先前建立的代理程式版本。然後,您將應用程式設定為對該別名進行 API 呼叫。
版本是快照,可保留建立資源時存在的資源。您可以視需要繼續修改工作草案,並建立新的代理程式別名 (以及因此的版本)。在 Amazon Bedrock 中,您可以建立預設指向新版本的別名,以建立新版本的代理程式。Amazon Bedrock 按數字順序建立版本,從 1 開始。
版本是不可變的,因為它們在您建立代理程式時做為其快照。若要更新生產環境中的代理程式,您必須建立新的版本,並設定您的應用程式來呼叫指向該版本的別名。
使用別名,您可以在不同版本的代理程式之間有效率地切換,而不需要應用程式追蹤版本。例如,如果有您需要快速還原的變更,您可以變更別名以指向舊版的代理程式。
部署您的代理程式
-
建立代理程式的別名和版本。選擇您偏好方法的索引標籤,然後遵循下列步驟:
建立別名 (以及選用的新版本)
-
AWS Management Console 使用具有 Amazon Bedrock 許可的 IAM 角色登入 ,然後開啟 Amazon Bedrock 主控台,網址為 https://https://console.aws.amazon.com/bedrock/
。 -
從左側導覽窗格中選取客服人員。然後,在客服人員區段中選擇客服人員。
-
在別名區段中,選擇建立。
-
輸入唯一的別名名稱,並提供選用的描述。
-
在關聯版本下,選擇下列其中一個選項:
-
若要建立新版本,請選擇建立新版本,並將其與此別名建立關聯。
-
若要使用現有版本,請選擇使用現有版本來關聯此別名。從下拉式功能表中,選擇您要與別名建立關聯的版本。
-
-
在選取輸送量下,選取下列其中一個選項:
-
若要讓您的代理程式以為您的帳戶設定的速率執行模型推論,請選取隨需 (ODT)。如需詳細資訊,請參閱Amazon Bedrock 的配額。
-
若要讓您的代理程式使用您先前為模型購買的佈建輸送量,以更高的速率執行模型推論,請選取佈建輸送量 (PT),然後選取佈建模型。如需詳細資訊,請參閱使用 Amazon Bedrock 中的佈建輸送量來增加模型調用容量。
-
-
選取建立別名。
-
透過設定您的應用程式,向 Amazon Bedrock 執行期端點的 代理程式提出InvokeAgent請求,以部署您的代理程式。在
agentAliasId
欄位中,指定指向您要使用之代理程式版本的別名 ID。InvokeAgent
回應串流包含多個事件,每個回應部分的區塊會依序排列。您可以在串流組態true
中將 設定為streamFinalResponse
,以選擇性地啟用串流。-
如果您的代理程式使用 Guardrail 設定,您也可以在
applyGuardrailInterval
中指定StreamingConfigurations
,以控制對傳出回應字元 (例如,每 50 個字元) 發出ApplyGuardrail
呼叫的頻率 -
回應串流目前僅支援 Orchestration 提示。
-
串流目前不支援引文。
-
確保客服人員執行角色包含已設定客服人員模型的
bedrock:InvokeModelWithResponseStream
許可。
-