自訂您的模型，以改善其針對使用案例的效能 - Amazon Bedrock

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

自訂您的模型，以改善其針對使用案例的效能

模型自訂是提供訓練資料給模型的程序，以改善特定使用案例的效能。您可以自訂 Amazon Bedrock 基礎模型，以改善其效能並建立更好的客戶體驗。Amazon Bedrock 目前提供下列自訂方法。

  • 蒸餾

    使用蒸餾將知識從更大型的智慧模型 （稱為教師） 轉移到更小、更快速且符合成本效益的模型 （稱為學生）。Amazon Bedrock 使用最新的資料合成技術，從教師模型產生多樣化、高品質的回應，並微調學生模型，以自動化蒸餾程序。

    若要使用蒸餾，您可以選擇您希望在使用案例中達到其準確性的教師模型，以及要微調的學生模型。然後，您提供使用案例特定的提示做為輸入資料。Amazon Bedrock 會從指定提示的教師模型產生回應，然後使用回應來微調學生模型。您可以選擇提供標記為提示回應對的輸入資料。

    如需使用 蒸餾的詳細資訊，請參閱 Amazon Bedrock 中的模型蒸餾。

  • 微調

    提供已標記的資料，以訓練模型來改善特定任務的效能。透過提供已標記範例的訓練資料集，模型會學習建立應針對特定輸入類型產生哪些輸出類型的關聯。模型參數會在程序中調整，且模型的效能會針對訓練資料集所代表的任務進行改善。

  • 持續預先訓練

    透過熟悉特定類型的輸入，提供未標記的資料來預先訓練基礎模型。您可以提供特定主題的資料，以便將模型公開到這些區域。持續的預先訓練程序會調整模型參數，以適應輸入資料並改善其網域知識。

    例如，您可以使用無法公開用於訓練大型語言模型的私有資料來訓練模型，例如商業文件。此外，您可以在模型變成可用時，透過使用更多未標記的資料重新訓練模型，以繼續改良模型。

如需模型自訂配額的相關資訊，請參閱 中的 Amazon Bedrock 端點和配額 AWS 一般參考。

注意

您需要根據模型處理的權杖數量 （訓練資料庫中的權杖數量 × epoch 數量） 和每個模型每月收取的模型儲存量，支付模型訓練的費用。如需詳細資訊，請參閱 Amazon Bedrock 定價。

您可以在模型自訂中執行下列步驟。

  1. 為您的自訂任務建立訓練，並在適用時建立驗證資料集。

  2. 如果您打算使用新的自訂 IAM 角色，請設定 IAM 許可來存取資料的 S3 儲存貯體。您也可以使用現有角色，或讓主控台自動建立具有適當許可的角色。

  3. （選用） 設定 KMS 金鑰和/或 VPC 以獲得額外的安全性。

  4. 建立微調或持續預先訓練任務，透過調整超參數值來控制訓練程序。

  5. 透過查看訓練或驗證指標或使用模型評估來分析結果。

  6. 為新建立的自訂模型購買佈建輸送量。

  7. 如同 Amazon Bedrock 任務中的基本模型一樣使用自訂模型，例如模型推論。