AutoML ジョブを作成して、 を使用してテキスト生成モデルを微調整する API

大規模言語モデル (LLMs) は、テキスト生成、要約、完了、質問への回答など、複数の生成タスクに優れています。そのパフォーマンスは、その大きなサイズと、さまざまなデータセットやさまざまなタスクに関する広範なトレーニングに起因する可能性があります。ただし、医療や金融サービスなどの特定のドメインでは、一意のデータやユースケースに合わせてカスタマイズされた微調整が必要になる場合があります。トレーニングを特定のドメインに合わせて調整することで、 LLMsはパフォーマンスを向上させ、ターゲットアプリケーションに対してより正確な出力を提供できます。

Autopilot は、事前にトレーニングされた生成テキストモデルの選択を微調整する機能を提供します。特に、Autopilot は、 を搭載した汎用の大規模言語モデル () の選択の命令ベースの微調整をサポートしています JumpStart。LLMs

事前トレーニング済みモデルを微調整するには、そのタスクの出力の生成方法や動作方法についてモデルをガイドする明確な手順の特定のデータセットが必要です。モデルはデータセットから学習し、提供された指示に準拠するようにパラメータを調整します。命令ベースの微調整では、プロンプトとレスポンスのペアとしてフォーマットされ、命令としてフレーズされたラベル付き例を使用します。微調整の詳細については、「基盤モデルの微調整」を参照してください。

以下のガイドラインでは、 SageMaker APIリファレンス LLMsを使用してテキスト生成を微調整するパイロット実験として Amazon SageMaker Autopilot ジョブを作成するプロセスの概要を示します。

を微調整するためにプログラムで Autopilot 実験を作成するにはLLM、Amazon SageMaker Autopilot または でサポートされているCreateAutoMLJobV2API任意の言語で を呼び出すことができます AWS CLI。

このAPIアクションが任意の言語で関数に変換される方法については、「」セクションのhttps://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CreateAutoMLJobV2.html#API_CreateAutoMLJobV2_SeeAlso「」を参照して CreateAutoMLJobV2を選択しますSDK。例として、Python ユーザーの場合は、「 AWS SDK for Python (Boto3)」の「create_auto_ml_job_v2 のすべてのリクエスト構文」を参照してください。

LLM を微調整すると、さまざまな にアクセスしてパフォーマンスを評価できます。ROUGE は、DescribeAutoMLJobV2API通話を行うBestCandidateときに を通じて をスコアリングします。このモデルは、トレーニングと検証の損失と多重性に関する情報も提供します。微調整されたモデルによって生成されたテキストの品質を評価するためのメトリクスの包括的なリストについては、「」を参照してくださいAutopilot で大規模言語モデルを微調整するためのメトリクス。

前提条件

Autopilot を使用して で微調整実験を作成する前に SageMaker、必ず次のステップを実行してください。

これが完了したら、Autopilot APIリクエストでこの実行ロールARNの を使用できます。

必須パラメータ

を呼び出しCreateAutoMLJobV2てLLM微調整用の Autopilot 実験を作成する場合は、次の値を指定する必要があります。

以下は、 (Falcon7BInstruct) モデルを微調整CreateAutoMLJobV2するために をAPI呼び出すときに使用されるフルリクエスト形式の例です。

{
   "AutoMLJobName": "<job_name>",
   "AutoMLJobInputDataConfig": [ 
      { 
         "ChannelType": "training",
         "CompressionType": "None",
         "ContentType": "text/csv", 
         "DataSource": { 
            "S3DataSource": { 
               "S3DataType": "S3Prefix",
               "S3Uri": "s3://<bucket_name>/<input_data>.csv"
            }
         }
      }
   ],
  "OutputDataConfig": {
      "S3OutputPath": "s3://<bucket_name>/output",
      "KmsKeyId": "arn:aws:kms:<region>:<account_id>:key/<key_value>"
   },
   "RoleArn":"arn:aws:iam::<account_id>:role/<sagemaker_execution_role_name>",
   "AutoMLProblemTypeConfig": {
        "TextGenerationJobConfig": {
            "BaseModelName": "Falcon7BInstruct"
       }
   }
}

その他のすべてのパラメータは省略可能です。

任意指定のパラメータ

以下のセクションでは、微調整 AutoML ジョブに渡すことができるオプションパラメータの詳細について説明します。

"AutoMLProblemTypeConfig": {
  "TextGenerationJobConfig": {
    "BaseModelName": "Falcon7B",
    "TextGenerationHyperParameters": {"epochCount":"5", "learningRate":"0.000001", "batchSize": "32", "learningRateWarmupSteps": "10"}
  }
}