本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
將 Amazon Bedrock 代理程式部署並整合到您的應用程式中
當您第一次建立 Amazon Bedrock 代理程式時,您會有一個工作草稿版本 (DRAFT
) 和指向工作草稿版本的測試別名 (TSTALIASID
)。當您變更代理程式時,變更會套用至工作草稿。您在工作草稿上反覆執行,直到您對客服人員的行為感到滿意為止。然後,您可以建立代理程式的別名,設定您的代理程式以部署和整合到您的應用程式。
若要部署代理程式,您必須建立別名。在別名建立期間,Amazon Bedrock 會自動建立代理程式的版本。別名指向這個新建立的版本。或者,您可以將別名指向先前建立的代理程式版本。然後,您可以設定應用程式來API呼叫該別名。
版本是快照,可保留建立時存在的資源。您可以視需要繼續修改工作草稿,並建立新的代理程式別名 (因此,版本)。在 Amazon Bedrock 中,您可以建立預設指向新版本的別名,以建立新版本的代理程式。Amazon Bedrock 按數字順序建立版本,從 1 開始。
版本是不可變的,因為它們在您建立代理程式時做為其快照。若要更新生產環境中的代理程式,您必須建立新的版本,並設定您的應用程式來呼叫指向該版本的別名。
使用別名時,您可以在不同版本的代理程式之間有效率地切換,而不需要應用程式追蹤版本。例如,如果有需要快速還原的變更,您可以變更別名以指向客服人員的先前版本。
部署您的代理程式
-
建立代理程式的別名和版本。選擇您偏好方法的索引標籤,然後遵循下列步驟:
-
透過設定您的應用程式來部署 代理程式,以建立 InvokeAgent Amazon Bedrock 執行時間端點的 代理程式請求。在
agentAliasId
欄位中,指定指向您要使用的代理程式版本的別名 ID。InvokeAgent
回應串流包含多個事件,每個回應部分的區塊會依序排列。您可以在串流組態true
中將 設定為streamFinalResponse
,以選擇性地啟用串流。-
如果您的代理程式設定了 Guardrail,您也可以在
applyGuardrailInterval
中指定StreamingConfigurations
,以控制對傳出回應字元 (例如,每 50 個字元)ApplyGuardrail
的呼叫頻率 -
回應串流目前僅支援 Orchestration 提示。
-
串流目前不支援引文。
-
確保客服人員執行角色包含已設定客服人員模型的
bedrock:InvokeModelWithResponseStream
許可。
-