GPU 사용하기 - AWS Panorama

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

GPU 사용하기

AWS Panorama 어플라이언스의 그래픽 프로세서(GPU)에 액세스하여 GPU 가속 라이브러리를 사용하거나 애플리케이션 코드에서 기계 학습 모델을 실행할 수 있습니다. GPU 액세스를 활성화하려면 애플리케이션 코드 컨테이너를 빌드한 후 패키지 구성에 GPU 액세스를 요구 사항으로 추가합니다.

중요

GPU 액세스를 활성화하면 어플라이언스의 어떤 애플리케이션에서도 모델 노드를 실행할 수 없습니다. 보안을 위해 어플라이언스가 SageMaker Neo로 컴파일된 모델을 실행할 때는 GPU 액세스가 제한됩니다. GPU 액세스를 사용하면 애플리케이션 코드 노드에서 모델을 실행해야 하며 디바이스의 모든 애플리케이션이 GPU에 대한 액세스 권한을 공유해야 합니다.

애플리케이션에 대한 GPU 액세스를 활성화하려면 AWS Panorama Application CLI로 패키지를 빌드한 후 패키지 구성을 업데이트하십시오. 다음 예시는 애플리케이션 코드 노드에 GPU 액세스를 추가하는 requirements 블록을 보여줍니다.

예 요구 사항 블록이 포함된 package.json
{
    "nodePackage": {
        "envelopeVersion": "2021-01-01",
        "name": "SAMPLE_CODE",
        "version": "1.0",
        "description": "Computer vision application code.",
        "assets": [
            {
                "name": "code_asset",
                "implementations": [
                    {
                        "type": "container",
                        "assetUri": "eba3xmpl71aa387e8f89be9a8c396416cdb80a717bb32103c957a8bf41440b12.tar.gz",
                        "descriptorUri": "4abdxmpl5a6f047d2b3047adde44704759d13f0126c00ed9b4309726f6bb43400ba9.json",
                        "requirements": [
                            {
                                "type": "hardware_access",
                                "inferenceAccelerators": [
                                    {
                                        "deviceType": "nvhost_gpu",
                                        "sharedResourcePolicy": {
                                            "policy" : "allow_all"
                                        }
                                    }
                                ]
                            }
                        ]
                    }
                ]
            }
        ],
        "interfaces": [
        ...

개발 워크플로의 빌드와 패키징 단계 사이의 패키지 구성을 업데이트하십시오.

GPU 액세스를 사용하여 애플리케이션을 배포하려면

  1. 애플리케이션 컨테이너를 빌드하려면 build-container 명령을 사용하십시오.

    $ panorama-cli build-container --container-asset-name code_asset --package-path packages/123456789012-SAMPLE_CODE-1.0

  2. requirements 블록을 패키지 구성에 추가합니다.

  3. 컨테이너 자산 및 패키지 구성을 업로드하려면 package-application 명령을 사용하십시오.

    $ panorama-cli package-application

  4. 애플리케이션을 배포합니다.

GPU 액세스를 사용하는 샘플 애플리케이션을 보려면 aws-panorama-samples GitHub 리포지토리를 방문하십시오.