Greengrass 코어 디바이스에서 Amazon SageMaker AI Edge Manager 사용 - AWS IoT Greengrass
작동 방법요구 사항 SageMaker AI Edge Manager 시작하기

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

Greengrass 코어 디바이스에서 Amazon SageMaker AI Edge Manager 사용

중요

SageMaker AI Edge Manager는 2024년 4월 26일에 중단되었습니다. 엣지 디바이스에 모델을 계속 배포하는 방법에 대한 자세한 내용은 SageMaker AI Edge Manager 수명 종료를 참조하세요.

Amazon SageMaker AI Edge Manager는 엣지 디바이스에서 실행되는 소프트웨어 에이전트입니다. SageMaker AI Edge Manager는 엣지 디바이스에 대한 모델 관리를 제공하므로 Greengrass 코어 디바이스에서 Amazon SageMaker AI Neo 컴파일 모델을 직접 패키징하고 사용할 수 있습니다. SageMaker AI Edge Manager를 사용하면 코어 디바이스에서 모델 입력 및 출력 데이터를 샘플링하고 모니터링 및 분석을 위해 해당 데이터를 AWS 클라우드 로 보낼 수도 있습니다. SageMaker AI Edge Manager는 SageMaker AI Neo를 사용하여 대상 하드웨어에 맞게 모델을 최적화하므로 디바이스에 직접 DLR 런타임을 설치할 필요가 없습니다. Greengrass 디바이스에서 SageMaker AI Edge Manager는 로컬 AWS IoT 인증서를 로드하거나 AWS IoT 자격 증명 공급자 엔드포인트를 직접 호출하지 않습니다. 대신 SageMaker AI Edge Manager는 토큰 교환 서비스를 사용하여 TES 엔드포인트에서 임시 자격 증명을 가져옵니다.

이 섹션에서는 SageMaker AI Edge Manager가 Greengrass 코어 디바이스에서 작동하는 방법을 설명합니다.

Greengrass 디바이스에서 SageMaker AI Edge Manager 작동 방식

SageMaker AI Edge Manager 에이전트를 코어 디바이스에 배포하려면 aws.greengrass.SageMakerEdgeManager 구성 요소가 포함된 배포를 생성합니다.는 디바이스에서 Edge Manager 에이전트의 설치 및 수명 주기를 AWS IoT Greengrass 관리합니다. 새 버전의 에이전트 바이너리를 사용할 수 있는 경우 aws.greengrass.SageMakerEdgeManager 구성 요소의 업데이트된 버전을 배포하여 디바이스에 설치된 에이전트의 버전을 업그레이드합니다.

SageMaker AI Edge Manager를와 함께 사용하는 경우 워크플로에는 다음과 같은 상위 수준 단계가 포함됩니다 AWS IoT Greengrass.

  1. SageMaker AI Neo로 모델을 컴파일합니다.

  2. SageMaker AI 엣지 패키징 작업을 사용하여 SageMaker AI Neo 컴파일 모델을 패키징합니다. 모델에 대한 엣지 패키징 작업을 실행하는 경우 패키징된 모델을 Greengrass 코어 디바이스에 배포할 수 있는 아티팩트로 포함하는 모델 구성 요소를 생성하도록 선택할 수 있습니다.

  3. 사용자 지정 추론 구성 요소를 생성합니다. 이 추론 구성 요소를 사용하여 Edge Manager 에이전트와 상호 작용하고 코어 디바이스에서 추론을 수행합니다. 이러한 작업은 모델 로드, 추론 실행을 위한 예측 요청 호출, 구성 요소 종료 시 모델 언로드를 포함합니다.

  4. SageMaker AI Edge Manager 구성 요소, 패키지 모델 구성 요소 및 추론 구성 요소를 배포하여 디바이스의 SageMaker AI 추론 엔진(Edge Manager 에이전트)에서 모델을 실행합니다.

SageMaker AI Edge Manager로 작동하는 엣지 패키징 작업 및 추론 구성 요소 생성에 대한 자세한 내용은 Amazon SageMaker AI 개발자 안내서의 를 사용하여 모델 패키지 및 엣지 관리자 에이전트 배포 AWS IoT Greengrass를 참조하세요.

이 자습서: SageMaker AI Edge Manager 시작하기 자습서에서는 샘플 추론 및 모델 구성 요소를 생성하는 데 사용할 수 있는 AWS제공된 예제 코드를 사용하여 기존 Greengrass 코어 디바이스에서 SageMaker AI Edge Manager 에이전트를 설정하고 사용하는 방법을 보여줍니다.

Greengrass 코어 디바이스에서 SageMaker AI Edge Manager를 사용하는 경우 데이터 캡처 기능을 사용하여 샘플 데이터를에 업로드할 수도 있습니다 AWS 클라우드. 캡처 데이터는 향후 분석을 위해 추론 입력, 추론 결과 및 추가 추론 데이터를 S3 버킷 또는 로컬 디렉터리에 업로드하는 데 사용하는 SageMaker AI 기능입니다. SageMaker AI Edge Manager에서 캡처 데이터를 사용하는 방법에 대한 자세한 내용은 Amazon SageMaker AI 개발자 안내서의 모델 관리를 참조하세요.

요구 사항

Greengrass 코어 디바이스에서 SageMaker AI Edge Manager 에이전트를 사용하려면 다음 요구 사항을 충족해야 합니다.

  • Amazon Linux 2, Debian 기반 Linux 플랫폼(x86_64 또는 Armv8) 또는 Windows(x86_64)에서 실행되는 Greengrass 코어 디바이스. 없으면 자습서: 시작하기 AWS IoT Greengrass V2 단원을 참조하세요.

  • Python 3.6 이상(사용하는 Python 버전에 대한 pip 포함)이 코어 디바이스에 설치되어 있어야 합니다.

  • 다음과 같이 구성된 Greengrass 디바이스 역할:

    • 다음 IAM 정책 예제와 같이 credentials.iot.amazonaws.com 및가 역할을 수임sagemaker.amazonaws.com하도록 허용하는 신뢰 관계입니다.

      { 
  "Version": "2012-10-17",
  "Statement": [ 
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "credentials.iot.amazonaws.com"
       }, 
      "Action": "sts:AssumeRole" 
    },
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "sagemaker.amazonaws.com"
      }, 
      "Action": "sts:AssumeRole" 
    } 
  ] 
}

    • AmazonSageMakerEdgeDeviceFleetPolicy IAM 관리형 정책.

    • 다음 IAM 정책 예제와 같은 s3:PutObject 작업입니다.

      {
  "Version": "2012-10-17",
  "Statement": [
    {
      "Action": [
        "s3:PutObject"
      ],
      "Resource": [
        "*"
      ],
      "Effect": "Allow"
    }
  ]
}

  • Greengrass 코어 디바이스 AWS 계정 AWS 리전 와 동일한에서 생성된 Amazon S3 버킷입니다. SageMaker AI Edge Manager에는 엣지 디바이스 플릿을 생성하고 디바이스에서 실행 중인 추론의 샘플 데이터를 저장하는 S3 버킷이 필요합니다. S3 버킷 생성에 대한 자세한 내용은 Amazon S3 시작하기를 참조하세요.

  • Greengrass 코어 디바이스와 동일한 AWS IoT 역할 별칭을 사용하는 SageMaker AI 엣지 디바이스 플릿입니다. 자세한 내용은 엣지 디바이스 플릿 생성 단원을 참조하십시오.

  • Greengrass 코어 디바이스가 SageMaker AI Edge 디바이스 플릿에 엣지 디바이스로 등록되었습니다. 엣지 디바이스 이름은 코어 디바이스의 AWS IoT 사물 이름과 일치해야 합니다. 자세한 내용은 Greengrass 코어 디바이스 등록 단원을 참조하십시오.

SageMaker AI Edge Manager 시작하기

자습서를 완료하여 SageMaker AI Edge Manager 사용을 시작할 수 있습니다. 이 자습서에서는 기존 코어 디바이스에서 AWS제공된 샘플 구성 요소와 함께 SageMaker AI Edge Manager 사용을 시작하는 방법을 보여줍니다. 이러한 샘플 구성 요소는 SageMaker AI Edge Manager 구성 요소를 종속성으로 사용하여 Edge Manager 에이전트를 배포하고 SageMaker AI Neo를 사용하여 컴파일된 사전 훈련된 모델을 사용하여 추론을 수행합니다. 자세한 내용은 자습서: SageMaker AI Edge Manager 시작하기 단원을 참조하십시오.