모델 컴파일(Amazon SageMaker AI 콘솔)

Amazon SageMaker AI 콘솔에서 Amazon SageMaker Neo 컴파일 작업을 생성할 수 있습니다.

Amazon SageMaker AI 콘솔에서 컴파일 작업을 선택한 다음 컴파일 작업 생성을 선택합니다.
컴파일 작업 생성 페이지에서 작업 이름에 이름을 입력합니다. 그런 다음 IAM 역할을 선택합니다.
IAM 역할이 없는 경우 새 역할 생성을 선택합니다.
IAM 역할 생성 페이지에서 모든 S3 버킷을 선택하고 역할 생성을 선택합니다.
Non PyTorch Frameworks

입력 구성 섹션에서 모델 아티팩트가 URI 포함된 Amazon S3 버킷의 전체 경로를 모델 아티팩트 입력 위치 필드에 입력합니다. 모델 아티팩트는 압축된 tarball 파일 형식(.tar.gz) 이어야 합니다.

데이터 입력 구성 필드에 입력 데이터의 모양을 지정하는 JSON 문자열을 입력합니다.

기계 학습 프레임워크에서 선택한 프레임워크를 선택합니다.

프레임워크에 따라 입력 데이터 셰이프의 JSON 문자열 예제를 찾으려면 Neo가 기대하는 입력 데이터 셰이프를 참조하세요.

PyTorch Framework
PyTorch 모델 컴파일에도 비슷한 지침이 적용됩니다. 그러나를 사용하여 훈련 PyTorch 하고 ml_* 대상 ( 제외ml_inf)에 대한 모델을 컴파일하려고 하는 경우 선택적으로 사용한 버전을 지정할 수 PyTorch 있습니다.

프레임워크에 따라 입력 데이터 셰이프의 JSON 문자열 예제를 찾으려면 Neo가 기대하는 입력 데이터 셰이프를 참조하세요.
참고

PyTorch 버전 2.0 이상을 사용하여 모델을 저장한 경우 데이터 입력 구성 필드는 선택 사항입니다. SageMaker Neo는 사용자가 생성한 모델 정의 파일에서 입력 구성을 가져옵니다 PyTorch. 정의 파일을 생성하는 방법에 대한 자세한 내용은 AI Neo용 모델 저장 PyTorch 섹션을 참조하세요. SageMaker

PyTorch 프레임워크를 사용하여 ml_* 인스턴스를 컴파일할 때 출력 구성의 컴파일러 옵션 필드를 사용하여 모델 입력의 올바른 데이터 유형(dtype)을 제공합니다. 기본값은 "float32"로 설정됩니다.
주의
.pth 파일로 연결되는 Amazon S3 버킷 URI 경로를 지정하면 컴파일을 시작한 후 다음 오류가 발생합니다. ClientError: InputConfiguration: Unable to untar input model.Please confirm the model is a tar.gz file
출력 구성 섹션으로 이동하세요. 모델을 배포할 위치를 선택합니다. 모델을 대상 디바이스 또는 대상 플랫폼에 배포할 수 있습니다. 대상 디바이스에는 클라우드 및 에지 디바이스가 포함됩니다. 대상 플랫폼은 모델을 실행하려는 특정 OS, 아키텍처 및 가속기를 말합니다.

S3 출력 위치에 모델을 저장할 S3 버킷의 경로를 입력합니다. 선택적으로 컴파일러 옵션 섹션에서 JSON 형식으로 컴파일러 옵션을 추가할 수 있습니다.
시작되면 컴파일 작업의 상태를 확인합니다. 이 작업 상태는 다음 스크린샷과 같이 컴파일 작업 페이지 상단에서 확인할 수 있습니다. 또한 상태 열에서 상태를 확인할 수도 있습니다.
완료되면 컴파일 작업의 상태를 확인합니다. 다음 스크린샷과 같이 상태 열에서 상태를 확인할 수 있습니다.