Neo를 사용한 컴파일된 권장 사항

SageMaker 소유 DLC 또는 XGBoost 컨테이너를 사용하고 있습니다.

Neo에서 지원하는 프레임워크 버전 사용. Neo에서 지원하는 프레임워크 버전은 SageMaker Neo 설명서클라우드 인스턴스의 섹션을 참조하세요.

Neo를 사용하려면 모델에 맞는 정확한 입력 데이터 형상을 입력해야 합니다. 이 데이터 형상은 모델 패키지를 생성할 때 DataInputConfig(InferenceSpecification 내)(으)로 지정할 수 있습니다. 각 프레임워크의 올바른 데이터 형태에 대한 자세한 내용은 SageMaker Neo 설명서의 컴파일을 위한 모델 준비를 참조하세요.

다음 예제에서는 data_input_configuration이 사전 형식의 데이터 형상(예: {'input':[1,1024,1024,3]})을 포함하는 변수인 InferenceSpecification에서 DataInputConfig 필드를 지정하는 방법을 볼 수 있습니다.

"InferenceSpecification": {
        "Containers": [
            {
                "Image": dlc_uri,
                "Framework": framework.upper(),
                "FrameworkVersion": framework_version,
                "NearestModelName": model_name,
                "ModelInput": {"DataInputConfig": data_input_configuration},
            }
        ],
        "SupportedContentTypes": input_mime_types,  # required, must be non-null
        "SupportedResponseMIMETypes": [],
        "SupportedRealtimeInferenceInstanceTypes": supported_realtime_inference_types,  # optional
    }

컴파일용 ML 모델을 준비합니다. 자세한 정보는 Neo 설명서에 있는 컴파일용 모델 준비에서 확인하세요.

모델 아카이브(.tar.gz 파일)에 모델을 패키징합니다.

샘플 페이로드 아카이브를 생성합니다.

모델 레지스트리에 SageMaker 모델을 등록합니다.

Inference Recommender 작업을 생성합니다.

Inference Recommender 작업 결과를 보고 구성을 선택합니다.

컴파일 실패 시 디버그합니다. 자세한 정보는 Neo 컴파일 오류 해결에서 확인하세요.