모델 컴파일(Amazon SageMaker AI 콘솔)

Amazon SageMaker AI 콘솔에서 Amazon SageMaker Neo 컴파일 작업을 생성할 수 있습니다.

Amazon SageMaker AI 콘솔에서 컴파일 작업을 선택한 다음 컴파일 작업 생성을 선택합니다.
컴파일 작업 생성 페이지에서 작업 이름에 이름을 입력합니다. IAM 역할을 선택합니다.
IAM 역할이 아직 없는 경우 새 역할 생성을 선택합니다.
IAM 역할 생성 페이지에서 모든 S3 버킷을 선택하고 역할 생성을 선택합니다.
Non PyTorch Frameworks

입력 구성 섹션에서 모델 아티팩트의 위치 입력 필드에 모델 아티팩트가 포함된 Amazon S3 버킷의 전체 경로를 입력합니다. 모델 아티팩트는 압축된 tarball 파일 형식(.tar.gz) 이어야 합니다.

데이터 입력 구성 필드에 입력 데이터의 형태를 지정하는 JSON 문자열을 입력합니다.

기계 학습 프레임워크에서 선택한 프레임워크를 선택합니다.

프레임워크에 따른 입력 데이터 형태의 JSON 문자열 예제를 찾으려면 Neo에 필요한 입력 데이터 형태를 참조하세요.

PyTorch Framework
PyTorch 모델 컴파일에도 유사한 지침이 적용됩니다. 그러나 PyTorch로 훈련하고 target ml_*(ml_inf 제외)에 대해 모델을 컴파일하려는 경우 사용한 PyTorch의 버전을 선택적으로 지정할 수 있습니다.

프레임워크에 따른 입력 데이터 형태의 JSON 문자열 예제를 찾으려면 Neo에 필요한 입력 데이터 형태를 참조하세요.
참고

PyTorch 2.0 이상 버전을 사용하여 모델을 저장한 경우 데이터 입력 구성 필드는 선택 사항입니다. SageMaker Neo는 PyTorch로 생성하는 모델 정의 파일에서 입력 구성을 가져옵니다. 정의 파일을 생성하는 방법에 대한 자세한 내용은 SageMaker AI Neo용 모델 저장 아래의 PyTorch 섹션을 참조하세요. SageMaker

PyTorch 프레임워크를 사용하여 ml_* 인스턴스를 컴파일할 때 출력 구성의 컴파일러 옵션 필드를 사용하여 모델 입력의 올바른 데이터 유형(dtype)을 제공하세요. 기본값은 "float32"로 설정됩니다.
주의
.pth 파일로 연결되는 Amazon S3 버킷 URI 경로를 지정하는 경우 컴파일을 시작한 후 다음 오류가 발생합니다. ClientError: InputConfiguration: Unable to untar input model.Please confirm the model is a tar.gz file
출력 구성 섹션으로 이동하세요. 모델을 배포할 위치를 선택합니다. 모델을 대상 디바이스 또는 대상 플랫폼에 배포할 수 있습니다. 대상 디바이스에는 클라우드 및 에지 디바이스가 포함됩니다. 대상 플랫폼은 모델을 실행하려는 특정 OS, 아키텍처 및 가속기를 말합니다.

S3 출력 위치에 모델을 저장할 S3 버킷의 경로를 입력합니다. 컴파일러 옵션 섹션에서 JSON 형식의 컴파일러 옵션을 선택적으로 추가할 수 있습니다.
시작되면 컴파일 작업의 상태를 확인합니다. 이 작업 상태는 다음 스크린샷과 같이 컴파일 작업 페이지 상단에서 확인할 수 있습니다. 또한 상태 열에서 상태를 확인할 수도 있습니다.
완료되면 컴파일 작업의 상태를 확인합니다. 다음 스크린샷과 같이 상태 열에서 상태를 확인할 수 있습니다.