API를 사용하여 텍스트 생성 모델을 미세 조정하는 AutoML 작업 생성

대규모 언어 모델(LLM)은 텍스트 생성, 요약, 완료, 질문 답변 등을 비롯한 여러 생성 작업에 탁월합니다. 이들의 성과는 규모가 크고 다양한 데이터세트와 다양한 작업에 대한 광범위한 훈련 덕분일 수 있습니다. 그러나 의료 및 금융 서비스와 같은 특정 영역에서는 고유한 데이터 및 사용 사례에 맞게 적용하기 위해 맞춤형 미세 조정이 필요할 수 있습니다. LLM은 특정 영역에 맞게 훈련을 조정함으로써 성과를 개선하고 대상 애플리케이션에 더 정확한 결과를 제공할 수 있습니다.

Autopilot은 몇몇 사전 훈련된 생성 텍스트 모델을 미세 조정할 수 있는 기능을 제공합니다. 특히 Autopilot은 JumpStart에서 제공하는 다양한 범용 대규모 언어 모델(LLM)의 지침 기반 미세 조정을 지원합니다.

사전 훈련된 모델을 미세 조정하려면 출력을 생성하거나 해당 작업에 맞게 동작하는 방법에 대한 모델을 안내하는 명확한 지침을 가진 특정 데이터세트가 필요합니다. 모델은 데이터세트에서 학습하고 제공된 지침에 맞게 파라미터를 조정합니다. 지침 기반 미세 조정에는 프롬프트 응답 쌍 및 지침으로 표현(phrased as instructions)과 같은 형식의 레이블이 지정된 예제를 사용하는 것이 포함됩니다. 미세 조정에 대한 자세한 내용은 기초 모델 미세 조정을 참조하세요.

다음 지침은 Amazon SageMaker SageMaker Autopilot 작업을 생성하는 프로세스를 간략하게 설명합니다. LLMs https://docs.aws.amazon.com/sagemaker/latest/dg/autopilot-reference.html

LLM을 미세 조정하기 위해 프로그래밍 방식으로 Autopilot 실험을 생성하려면 Amazon SageMaker Autopilot나 AWS CLI에서 지원하는 모든 언어로 CreateAutoMLJobV2 API를 호출할 수 있습니다.

이 API 작업이 선택한 언어의 함수로 변환되는 방식에 대한 자세한 내용은 CreateAutoMLJobV2의 추가 참고 사항 섹션 및 SDK 선택을 참조하세요. 예를 들어, Python 사용자의 경우 AWS SDK for Python (Boto3)에서 create_auto_ml_job_v2의 전체 요청 구문을 참조하세요.

LLM을 미세 조정한 후에는 DescribeAutoMLJobV2 API 직접 호출 시 BestCandidate를 통해 다양한 ROUGE 점수에 액세스하여 성능을 평가할 수 있습니다. 또한 이 모델은 훈련 및 검증 손실과 Perplexity에 대한 정보도 제공합니다. 미세 조정된 모델에서 생성된 텍스트의 품질을 평가하기 위한 포괄적인 지표 목록은 Autopilot에서 대규모 언어 모델을 미세 조정하기 위한 지표를 참조하세요.

사전 조건

Autopilot을 사용하여 SageMaker AI에서 미세 조정 실험을 생성하기 전에 다음 단계를 수행해야 합니다.

이 작업이 완료되면 Autopilot API 요청에서 이 실행 역할의 ARN을 사용할 수 있습니다.

필수 파라미터

LLM 미세 조정을 위한 Autopilot 실험을 생성하기 위해 CreateAutoMLJobV2를 호출할 때는 다음 값을 제공해야 합니다.

다음은 (Falcon7BInstruct) 모델 미세 조정을 위해 CreateAutoMLJobV2에 API를 호출할 때 사용되는 전체 요청 형식의 예입니다.

{
   "AutoMLJobName": "<job_name>",
   "AutoMLJobInputDataConfig": [ 
      { 
         "ChannelType": "training",
         "CompressionType": "None",
         "ContentType": "text/csv", 
         "DataSource": { 
            "S3DataSource": { 
               "S3DataType": "S3Prefix",
               "S3Uri": "s3://<bucket_name>/<input_data>.csv"
            }
         }
      }
   ],
  "OutputDataConfig": {
      "S3OutputPath": "s3://<bucket_name>/output",
      "KmsKeyId": "arn:aws:kms:<region>:<account_id>:key/<key_value>"
   },
   "RoleArn":"arn:aws:iam::<account_id>:role/<sagemaker_execution_role_name>",
   "AutoMLProblemTypeConfig": {
        "TextGenerationJobConfig": {
            "BaseModelName": "Falcon7BInstruct"
       }
   }
}

다른 모든 파라미터는 선택 사항입니다.

선택적 파라미터

다음 섹션에서는 미세 조정 AutoML 작업에 전달할 수 있는 몇 가지 선택적 파라미터에 대해 자세히 설명합니다.

"AutoMLProblemTypeConfig": {
  "TextGenerationJobConfig": {
    "BaseModelName": "Falcon7B",
    "TextGenerationHyperParameters": {"epochCount":"5", "learningRate":"0.000001", "batchSize": "32", "learningRateWarmupSteps": "10"}
  }
}