關鍵定義

基金會模型（FM）— 具有大量參數並對大量不同數據進行培訓的 AI 模型。基礎模型可以針對各種使用案例產生各種回應。基礎模型可以生成文本或圖像，也可以將輸入轉換為嵌入。您必須先申請存取權，才能使用 Amazon 基礎基礎模型。如需基礎模型的更多資訊，請參閱Amazon Bedrock 中支援的基礎模型。

基礎模型 — 由提供者封裝且可立即使用的基礎模型。Amazon 基岩提供領先供應商提供各種業界領先的基礎模型。如需詳細資訊，請參閱 Amazon Bedrock 中支援的基礎模型。

模型推斷 — 從指定輸入 (提示) 產生輸出 (回應) 的基礎模型程序。如需詳細資訊，請參閱 執行模型推論。

提示 — 提供給模型的輸入，以引導模型為輸入產生適當的回應或輸出。例如，文字提示可以包含模型要回應的單行，也可以詳細說明模型要執行的指示或工作。提示可以包含任務的前後關聯、輸出範例或模型在其回應中使用的文字。提示可用於執行分類、問題回答、程式碼產生、創意寫作等工作。如需詳細資訊，請參閱 提示詞工程指導方針。

Token — 模型可以解譯或預測為單一意義單位的字元序列。例如，對於文本模型，標記不僅可以對應到單詞，還可以對應到具有語法意義的單詞的一部分（例如「-ed」），標點符號（例如「？」） ，或一個常見的短語（如「很多」）。

模型參數 — 定義模型及其在解釋輸入和產生回應時的行為的值。模型參數由供應商控制和更新。您也可以透過模型自訂過程更新模型參數以建立新模型。

推論參數 — 可在模型推論期間調整以影響回應的值。推論參數可能會影響不同回應的方式，也可以限制回應的長度或指定序列的出現。如需特定推論參數的詳細資訊和定義，請參閱推論參數。

遊樂場 — 使用者友好的圖形介面，您可以 AWS Management Console 在其中嘗試執行模型推論，以熟悉 Amazon 基岩。使用操場測試不同模型、組態和推論參數對您輸入的不同提示產生的回應的影響。如需詳細資訊，請參閱 遊樂場。

嵌入 — 透過將輸入轉換為數值向量 (稱為嵌入) 來壓縮資訊的過程，以便使用共用數值表示法比較不同物件之間的相似性。例如，可以將句子進行比較以確定意義上的相似性，可以比較圖像以確定視覺相似性，或者可以將文本和圖像進行比較，以查看它們是否彼此相關。如果文字和影像輸入與您的使用案例相關，您也可以將文字和影像輸入合併為平均嵌入向量。如需詳細資訊，請參閱 執行模型推論 及 Amazon 基岩知識庫。

協調 — 在基礎模型與企業資料與應用程式之間進行協調的程序，以便執行工作。如需詳細資訊，請參閱 適用於 Amazon Bedrock 的代理程式。

代理程式 — 透過使用基礎模型循環解譯輸入和產生輸出來執行協調處理的應用程式。代理可以用來執行客戶的請求。如需詳細資訊，請參閱 適用於 Amazon Bedrock 的代理程式。

擷取增強產生 (RAG) — 從資料來源查詢和擷取資訊的程序，以增加產生的提示回應。如需詳細資訊，請參閱 Amazon 基岩知識庫。

模型自訂 — 使用訓練資料調整基礎模型中模型參數值以建立自訂模型的過程。模型自訂的範例包括使用標籤資料 (輸入和對應輸出) 的微調，以及使用未標記資料 (僅限輸入) 來調整模型參數的「持續預先訓練」。如需 Amazon 基岩中可用模型自訂技術的詳細資訊，請參閱。自訂模型

超參數 — 可針對模型自訂進行調整的值，以控制訓練程序，進而控制輸出自訂模型。如需特定超參數的詳細資訊和定義，請參閱自訂模型超參數。

模型評估 — 評估和比較模型輸出的過程，以確定最適合用例的模型。如需詳細資訊，請參閱 模型評估。

佈建輸送量 — 您為基礎或自訂模型購買的輸送量層級，以增加在模型推論期間處理的權杖數量和/或速率。當您購買模型的佈建輸送量時，會建立可用於執行模型推論的佈建模型。如需更多詳細資訊，請參閱 Amazon 基岩的佈建輸送量。