重要術語

基礎模型 （FM） – 具有大量參數的 AI 模型，並針對大量不同的資料進行訓練。基礎模型可以針對各種使用案例產生各種回應。基礎模型可以產生文字或映像，也可以將輸入轉換為內嵌 。您必須先請求存取 ，才能使用 Amazon Bedrock 基礎模型。如需基礎模型的詳細資訊，請參閱 Amazon Bedrock 中支援的基礎模型。

基礎模型 – 由提供者封裝並隨時可用的基礎模型。Amazon Bedrock 提供來自領先供應商的各種業界領先基礎模型。如需詳細資訊，請參閱Amazon Bedrock 中支援的基礎模型。

模型推論 – 從指定輸入 （提示） 產生輸出 （回應） 的基礎模型程序。如需詳細資訊，請參閱提交提示並使用模型推斷產生回應。

提示 – 提供給模型的輸入，以引導模型為輸入產生適當的回應或輸出。例如，文字提示可以包含模型要回應的單行，也可以詳細說明模型要執行的指示或任務。提示可以包含任務的內容、輸出範例或模型回應中使用的文字。提示可用於執行分類、問題回答、程式碼產生、創意撰寫等任務。如需詳細資訊，請參閱 提示工程概念。

權杖 – 模型可以解譯或預測為單一意義單位的一系列字元。例如，使用文字模型時，權杖不僅可以對應至單字，也可以對應至具有文法意義的單字部分 （例如 "-ed"）、標點符號 （例如 "？"） 或常用片語 （例如 "a lot"）。

模型參數 – 定義模型及其在解釋輸入和產生回應時的行為的值。模型參數由供應商控制和更新。您也可以更新模型參數，透過模型自訂 的程序建立新的模型。

推論參數 – 可在模型推論期間調整的值，以影響回應。推論參數可能會影響不同的回應，也可以限制回應的長度或指定序列的發生。如需特定推論參數的詳細資訊和定義，請參閱 利用推論參數影響回應產生。

遊樂場 – 在 中易於使用的圖形界面，您可以在 AWS Management Console 其中嘗試執行模型推論，以熟悉 Amazon Bedrock。使用遊樂場測試不同模型、組態和推論參數對您輸入之不同提示產生的回應的影響。如需詳細資訊，請參閱使用遊樂場在視覺化介面中產生回應。

內嵌 – 透過將輸入轉換為稱為內嵌的數值向量來精簡資訊的程序，以便使用共用數值表示法來比較不同物件之間的相似性。例如，可以比較句子來確定意義上的相似性，可以比較影像來確定視覺相似性，或者可以比較文字和影像來查看它們是否彼此相關。如果文字和影像輸入與您的使用案例相關，您也可以將其合併為平均內嵌向量。如需詳細資訊，請參閱 提交提示並使用模型推斷產生回應 和 使用知識庫擷取資料並產生 AI 回應。

協調 – 協調基礎模型與企業資料和應用程式以執行任務的程序。如需詳細資訊，請參閱使用對話式代理程式自動化應用程式中的任務。

代理程式 – 使用基礎模型，透過循環解譯輸入和產生輸出來執行協調的應用程式。代理程式可用來執行客戶請求。如需詳細資訊，請參閱使用對話式代理程式自動化應用程式中的任務。

擷取增強生成 （RAG） – 從資料來源查詢和擷取資訊的程序，以增強對提示產生的回應。如需詳細資訊，請參閱使用知識庫擷取資料並產生 AI 回應。

模型自訂 – 使用訓練資料調整基本模型中的模型參數值，以建立自訂模型 的程序。模型自訂的範例包括微調 ，其使用標籤資料 （輸入和對應的輸出），以及持續預先訓練 ，其使用未標籤資料 （僅限輸入） 來調整模型參數。如需有關 Amazon Bedrock 中可用模型自訂技術的詳細資訊，請參閱 自訂您的模型，以改善其針對使用案例的效能。

超參數 – 可針對模型自訂進行調整的值，以控制訓練程序，進而控制輸出自訂模型。如需特定超參數的詳細資訊和定義，請參閱 自訂模型超參數。

模型評估 – 評估和比較模型輸出的程序，以判斷最適合使用案例的模型。如需詳細資訊，請參閱使用 Amazon Bedrock 評估選擇效能最佳的模型。

佈建輸送量 – 您為基礎或自訂模型購買的輸送量層級，以增加模型推論期間處理的權杖數量和/或速率。當您購買模型的佈建輸送量時，會建立佈建模型，可用於執行模型推論。如需詳細資訊，請參閱使用 Amazon Bedrock 中的佈建輸送量提高模型調用容量。