를 사용하여 텍스트 생성 모델을 미세 조정하는 AutoML 작업 생성 API

대규모 언어 모델(LLMs)은 텍스트 생성, 요약, 완료, 질문 응답 등을 비롯한 여러 생성 작업에 탁월합니다. 이들의 성과는 규모가 크고 다양한 데이터 세트와 다양한 작업에 대한 광범위한 훈련 덕분일 수 있습니다. 그러나 의료 및 금융 서비스와 같은 특정 영역에서는 고유한 데이터 및 사용 사례에 맞게 적용하기 위해 맞춤형 미세 조정이 필요할 수 있습니다. 특정 도메인에 맞게 훈련을 조정하면 LLMs는 성능을 개선하고 대상 애플리케이션에 보다 정확한 출력을 제공할 수 있습니다.

Autopilot은 몇몇 사전 훈련된 생성 텍스트 모델을 미세 조정할 수 있는 기능을 제공합니다. 특히 Autopilot은 로 구동되는 다양한 범용 대언어 모델(LLMs)의 명령 기반 미세 조정을 지원합니다 JumpStart.

사전 훈련된 모델을 미세 조정하려면 출력을 생성하거나 해당 작업에 맞게 동작하는 방법에 대한 모델을 안내하는 명확한 지침을 가진 특정 데이터 세트가 필요합니다. 모델은 데이터 세트에서 학습하고 제공된 지침에 맞게 파라미터를 조정합니다. 지침 기반 미세 조정에는 프롬프트-응답 페어로 형식이 지정되고 지침으로 표현되는 레이블이 지정된 예제를 사용하는 것이 포함됩니다. 미세 조정에 대한 자세한 내용은 파운데이션 모델 미세 조정을 참조하세요.

다음 지침은 SageMaker API 참조 를 LLMs 사용하여 텍스트 생성을 미세 조정하기 위한 파일럿 실험으로 Amazon SageMaker Autopilot 작업을 생성하는 프로세스를 간략하게 설명합니다.

를 미세 조정하기 위해 프로그래밍 방식으로 Autopilot 실험을 생성하려면 Amazon SageMaker Autopilot 또는 CreateAutoMLJobV2API에서 지원하는 모든 언어로 를 호출LLM할 수 있습니다 AWS CLI.

이 API 작업이 원하는 언어로 된 함수로 변환되는 방법에 대한 자세한 내용은 의 또한 섹션을 참조CreateAutoMLJobV2하고 를 선택합니다SDK. 예를 들어, Python 사용자의 경우 AWS SDK for Python (Boto3)에서 create_auto_ml_job_v2의 전체 요청 구문을 참조하세요.

LLM 가 미세 조정되면 다양한 에 액세스하여 성능을 평가할 수 있습니다.ROUGE 는 DescribeAutoMLJobV2 API 전화를 걸 BestCandidate 때 를 통해 점수를 매깁니다. 또한 이 모델은 훈련 및 검증 손실과 Perplexity에 대한 정보도 제공합니다. 미세 조정된 모델에서 생성된 텍스트의 품질을 평가하기 위한 포괄적인 지표 목록은 Autopilot에서 대규모 언어 모델을 미세 조정하기 위한 지표를 참조하세요.

사전 조건

Autopilot을 사용하여 에서 미세 조정 실험을 생성하기 전에 다음 단계를 수행해야 SageMaker합니다.

이 작업이 완료되면 Autopilot API 요청에서 이 실행 역할ARN의 를 사용할 수 있습니다.

필수 파라미터

LLM 미세 조정CreateAutoMLJobV2을 위한 Autopilot 실험을 생성하기 위해 를 호출할 때 다음 값을 제공해야 합니다.

다음은 (Falcon7BInstruct) 모델을 미세 조정하기 CreateAutoMLJobV2 위해 에 API 호출할 때 사용되는 전체 요청 형식의 예입니다.

{
   "AutoMLJobName": "<job_name>",
   "AutoMLJobInputDataConfig": [ 
      { 
         "ChannelType": "training",
         "CompressionType": "None",
         "ContentType": "text/csv", 
         "DataSource": { 
            "S3DataSource": { 
               "S3DataType": "S3Prefix",
               "S3Uri": "s3://<bucket_name>/<input_data>.csv"
            }
         }
      }
   ],
  "OutputDataConfig": {
      "S3OutputPath": "s3://<bucket_name>/output",
      "KmsKeyId": "arn:aws:kms:<region>:<account_id>:key/<key_value>"
   },
   "RoleArn":"arn:aws:iam::<account_id>:role/<sagemaker_execution_role_name>",
   "AutoMLProblemTypeConfig": {
        "TextGenerationJobConfig": {
            "BaseModelName": "Falcon7BInstruct"
       }
   }
}

다른 모든 파라미터는 선택 사항입니다.

선택적 파라미터

다음 섹션에서는 미세 조정 AutoML 작업에 전달할 수 있는 몇 가지 선택적 파라미터에 대해 자세히 설명합니다.

"AutoMLProblemTypeConfig": {
  "TextGenerationJobConfig": {
    "BaseModelName": "Falcon7B",
    "TextGenerationHyperParameters": {"epochCount":"5", "learningRate":"0.000001", "batchSize": "32", "learningRateWarmupSteps": "10"}
  }
}