선택 사항: ML 검증을 위해 장치 구성

장치에 SSH합니다.

종속 항목이 올바르게 설치되었는지 확인하려면 다음 스크립트를 실행합니다.

sudo python3.7 -c "import mxnet; print(mxnet.__version__)"

sudo python3.7 -c "import numpy; print(numpy.__version__)"

출력은 버전 번호를 인쇄하고 스크립트는 오류 없이 종료되어야 합니다.

device.json이 ML 검증에 대해 구성되어 있는지 확인합니다. 자세한 내용은 ML 검증을 위해 device.json 구성 단원을 참조하십시오.

프레임워크에 대한 종속 항목 테스트를 실행합니다.

devicetester_[linux | mac | win_x86-64] run-suite --group-id mldependencies --test-id mxnet_dependency_check

테스트 요약에 mldependencies에 대한 PASSED 결과가 표시됩니다.

장치에 SSH합니다.

종속 항목이 올바르게 설치되었는지 확인하려면 다음 스크립트를 실행합니다.

sudo python3.7 -c "import tensorflow; print(tensorflow.__version__)"

출력은 버전 번호를 인쇄하고 스크립트는 오류 없이 종료되어야 합니다.

device.json이 ML 검증에 대해 구성되어 있는지 확인합니다. 자세한 내용은 ML 검증을 위해 device.json 구성 단원을 참조하십시오.

프레임워크에 대한 종속 항목 테스트를 실행합니다.

devicetester_[linux | mac | win_x86-64] run-suite --group-id mldependencies --test-id tensorflow_dependency_check

테스트 요약에 mldependencies에 대한 PASSED 결과가 표시됩니다.

장치에 SSH합니다.

종속 항목이 올바르게 설치되었는지 확인하려면 다음 스크립트를 실행합니다.

sudo python3.7 -c "import dlr; print(dlr.__version__)"

sudo python3.7 -c "import numpy; print(numpy.__version__)"

출력은 버전 번호를 인쇄하고 스크립트는 오류 없이 종료되어야 합니다.

device.json이 ML 검증에 대해 구성되어 있는지 확인합니다. 자세한 내용은 ML 검증을 위해 device.json 구성 단원을 참조하십시오.

프레임워크에 대한 종속 항목 테스트를 실행합니다.

devicetester_[linux | mac | win_x86-64] run-suite --group-id mldependencies --test-id dlr_dependency_check

테스트 요약에 mldependencies에 대한 PASSED 결과가 표시됩니다.

디바이스 유형이 SageMaker AI에서 지원되는지 확인합니다. 자세한 내용은 Amazon SageMaker AI API 참조의 대상 디바이스 옵션을 참조하세요. 현재 SageMaker AI에서 디바이스 유형을 지원하지 않는 경우의 단계를 따릅니다옵션 2: TVM을 사용하여 DLR 모델 컴파일.

DLR용 컴파일되지 않은 사전 교육된 MXNet 모델이 포함된 tarball 파일을 다운로드합니다.

tarball의 압축을 풉니다. 이 명령은 다음과 같은 디렉터리 구조를 생성합니다.

resnet18 디렉터리에서 synset.txt를 이동합니다. 새 위치를 기록해 둡니다. 나중에 컴파일된 모델 디렉터리에 이 파일을 복사합니다.

resnet18 디렉터리의 내용을 압축합니다.

tar cvfz model.tar.gz resnet18v1-symbol.json resnet18v1-0000.params

압축된 파일을의 Amazon S3 버킷에 업로드 AWS 계정한 다음 모델 컴파일(콘솔)의 단계에 따라 컴파일 작업을 생성합니다.

1. 입력 구성에 다음 값을 사용합니다.

   • 데이터 입력 구성에 {"data": [1, 3, 224, 224]}를 입력합니다.

   • 기계 학습 프레임워크에서 MXNet을 선택합니다.

2. 출력 구성에 다음 값을 사용합니다.

   • S3 출력 위치에 컴파일된 모델을 저장할 Amazon S3 버킷 또는 폴더의 경로를 입력합니다.

   • 대상 장치에서 장치 유형을 선택합니다.

지정한 출력 위치에서 컴파일된 모델을 다운로드한 다음 파일의 압축을 풉니다.

synset.txt를 컴파일된 모델 디렉터리에 복사합니다.

컴파일된 모델 디렉터리의 이름을 resnet18로 변경합니다.

컴파일된 모델 디렉터리는 디렉터리 구조가 다음과 같아야 합니다.

DLR용 컴파일되지 않은 사전 교육된 MXNet 모델이 포함된 tarball 파일을 다운로드합니다.

tarball의 압축을 풉니다. 이 명령은 다음과 같은 디렉터리 구조를 생성합니다.

TVM 설명서의 지침에 따라 플랫폼에 대한 소스에서 TVM을 빌드하고 설치합니다.

TVM이 빌드된 후 resnet18 모델에 대한 TVM 컴파일을 실행합니다. 다음 단계는 TVM 설명서의 딥 러닝 모델 컴파일을 위한 빠른 시작 자습서를 기반으로 합니다.

1. 복제된 TVM 리포지토리에서 relay_quick_start.py 파일을 엽니다.

2. 릴레이의 신경망을 정의하는 코드를 업데이트합니다. 다음 옵션 중 하나를 사용할 수 있습니다.

   • 옵션 1: mxnet.gluon.model_zoo.vision.get_model을 사용하여 릴레이 모듈 및 파라미터를 가져옵니다.

     from mxnet.gluon.model_zoo.vision import get_model
     block = get_model('resnet18_v1', pretrained=True)
     mod, params = relay.frontend.from_mxnet(block, {"data": data_shape})

   • 옵션 2: 1단계에서 다운로드한 컴파일되지 않은 모델에서 relay_quick_start.py 파일과 동일한 디렉터리에 다음 파일을 복사합니다. 이러한 파일에는 릴레이 모듈 및 파라미터가 포함되어 있습니다.

     • resnet18v1-symbol.json

     • resnet18v1-0000.params

3. 다음 코드를 사용하도록 컴파일된 모듈을 저장하고 로드하는 코드를 업데이트합니다.

   from tvm.contrib import util
   path_lib = "deploy_lib.so"
   #  Export the model library based on your device architecture
   lib.export_library("deploy_lib.so", cc="aarch64-linux-gnu-g++")
   with open("deploy_graph.json", "w") as fo:
       fo.write(graph)
   with open("deploy_param.params", "wb") as fo:
       fo.write(relay.save_param_dict(params))

4. 모델을 빌드합니다.

   python3 tutorials/relay_quick_start.py --build-dir ./model

   이 명령은 다음과 같은 파일을 생성합니다.

   • deploy_graph.json

   • deploy_lib.so

   • deploy_param.params

생성된 모델 파일을 resnet18이라는 디렉터리에 복사합니다. 이 디렉터리는 컴파일된 모델 디렉터리입니다.

컴파일된 모델 디렉터리를 호스트 컴퓨터에 복사합니다. 그런 다음 1단계에서 다운로드한 컴파일되지 않은 모델에서 synset.txt를 컴파일된 모델 디렉터리에 복사합니다.

컴파일된 모델 디렉터리는 디렉터리 구조가 다음과 같아야 합니다.