SageMaker AI에서 Amazon Nova 모델 사용자 지정

레시피를 사용하여 향상된 Amazon Nova 2.0 모델을 포함한 Amazon Nova 모델을 사용자 지정하고 SageMaker에서 훈련할 수 있습니다. 이러한 레시피는 지도 미세 조정(SFT) 및 강화 미세 조정(RFT)과 같은 기법을 지원하며, 이와 함께 전체 순위 및 저순위 적응(LoRA) 옵션을 모두 포함합니다.

엔드 투 엔드 사용자 지정 워크플로에는 추론을 위한 모델 훈련, 모델 평가 및 배포와 같은 단계가 포함됩니다. SageMaker에서 이 모델 사용자 지정 접근 방식은 지원되는 Amazon Nova 모델을 미세 조정하고, 하이퍼파라미터를 정밀하게 최적화하며, LoRA 파라미터 효율 미세 조정(PEFT), 전체 순위 SFT, RFT, 지속적인 사전 훈련(CPT)과 같은 기술을 구현할 수 있는 높은 유연성과 제어를 제공합니다.

사용자 지정 접근 방식

SageMaker는 Amazon Nova 모델을 사용자 지정하기 위한 두 가지 접근 방식을 제공합니다.

UI 기반 경험 - 단순한 안내 인터페이스를 통해 Amazon Nova 모델을 사용자 지정하는 데 사용합니다. 이 접근 방식은 코드를 작성하지 않고도 훈련, 평가 및 배포를 포함한 포괄적인 워크플로를 제공합니다. UI 기반 경험은 빠른 실험, 개념 증명 개발 및 시각적 워크플로를 선호하는 사용자에게 적합합니다.

코드 기반 경험 - SageMaker Python SDK, Nova SDK 및 훈련 레시피를 사용하여 프로그래밍 방식으로 모델을 사용자 지정합니다. 이 접근 방식은 유연성을 높여 고급 하이퍼파라미터를 구성하고, CI/CD 파이프라인과 통합하며, 훈련 워크플로를 자동화할 수 있습니다. 코드 기반 경험은 프로덕션 워크로드, 복잡한 사용자 지정 요구 사항 및 MLOps 관행이 확립된 팀에 권장됩니다.

사용자 지정 플랫폼

AWS에서는 Amazon Nova 모델을 사용자 지정하기 위한 세 가지 플랫폼을 제공하며, 각 플랫폼은 여러 사용 사례 및 요구 사항에 맞게 설계되었습니다.

Amazon Bedrock - 최소한의 설정으로 모델 사용자 지정을 위한 가장 쉽고 빠른 경로를 제공합니다. Bedrock은 모든 인프라 관리를 자동으로 처리하므로 사용자가 데이터와 사용 사례에 집중할 수 있습니다. 이 플랫폼은 가장 빠른 가치 창출을 필요로 하고 완전관리형 환경을 선호하는 경우에 적합합니다.

SageMaker 훈련 작업 - 클러스터를 생성하거나 유지 관리할 필요가 없는 Amazon Nova 모델을 사용자 지정하기 위한 완전관리형 환경을 제공합니다. 서비스가 모든 인프라 프로비저닝, 확장 및 리소스 관리를 자동으로 처리하므로 사용자는 훈련 파라미터를 구성하고 작업을 제출하는 데 집중할 수 있습니다. 이 플랫폼은 사용 편의성과 유연성 간의 균형을 제공하며, 파라미터 효율 미세 조정(PEFT), 전체 순위 미세 조정 및 강화 미세 조정(RFT)과 같은 기술을 지원합니다.

SageMaker HyperPod - 제한된 인스턴스 그룹(RIG)으로 EKS 클러스터를 생성 및 관리해야 하므로 대규모 분산 훈련을 위한 특수한 환경을 제공합니다. 이 플랫폼을 사용하면 특수 GPU 인스턴스와 통합 Amazon FSx for Lustre 스토리지로 훈련 환경을 최대한 유연하게 구성할 수 있으므로 고급 분산 훈련 시나리오와 지속적인 모델 개발, 엔터프라이즈급 사용자 지정 워크로드에 특히 적합합니다.