本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。
注意
Amazon Bedrock 中的智慧型提示路由處於預覽狀態，可能會有所變更。
Amazon Bedrock 智慧型提示路由提供單一無伺服器端點，可有效率地在相同模型系列中的不同基礎模型之間路由請求。它可協助您最佳化回應品質和成本。它們提供全方位解決方案，可透過單一無伺服器端點管理多個 AI 模型，為您簡化程序。智慧提示路由可預測每個請求的每個模型的效能，並動態路由每個請求到其預測的模型，最有可能以最低成本提供所需的回應。透過智慧提示路由，Amazon Bedrock 可以使用基礎模型的組合來協助您建置生成式 AI 應用程式，以低於單一基礎模型的成本獲得更好的效能。
為了充分利用智慧提示路由，您應該定期檢閱效能，以利用新的模型。若要最佳化您的用量，請監控可用的效能和成本指標。
若要開始使用智慧提示路由，請使用 Amazon Bedrock 主控台 AWS CLI或 AWS SDK。
在預覽期間，您可以選擇使用 Anthropic 和 Meta 系列中的特定模型。
智慧提示路由提供下列優點。
-
透過將提示路由到不同的基礎模型，協助您最佳化回應品質和成本。
-
可以利用多個模型的優勢，協助改善整體效能。
-
簡化管理，無需複雜的協調邏輯。
-
在新模型推出時，將它們整合起來，以因應未來需求。
智慧提示路由的運作方式
-
選擇您要使用的模型系列。
-
對於每個傳入請求，智慧提示路由會預測每個指定模型的效能。
-
Amazon Bedrock 動態選擇預測的模型，可提供最佳組合的回應品質和成本。
-
Amazon Bedrock 會將請求傳送到您選擇處理模型。
-
您會傳回回應，其中也包含 Amazon Bedrock 選擇之模型的相關資訊。
考量與限制
以下是 Amazon Bedrock 中智慧型提示路由的考量和限制。
-
在預覽期間，您只能從預先設定的路由器中進行挑選。
-
目前，智慧提示路由僅接受英文提示。
-
智慧提示路由無法根據應用程式特定的效能資料調整路由決策或回應。
-
智慧型提示路由可能無法始終為唯一或專門的使用案例提供最佳路由。路由的有效性取決於初始訓練資料。
