버전 유형 운영 체제 요구 사항 종속성 구성 로컬 로그 파일 Changelog

SageMaker AI 엣지 관리자

중요

SageMaker AI Edge Manager는 2024년 4월 26일에 중단되었습니다. 엣지 디바이스에 모델을 계속 배포하는 방법에 대한 자세한 내용은 SageMaker AI Edge Manager 수명 종료를 참조하세요.

Amazon SageMaker AI Edge Manager 구성 요소(aws.greengrass.SageMakerEdgeManager)는 SageMaker AI Edge Manager 에이전트 바이너리를 설치합니다.

SageMaker AI Edge Manager는 엣지 디바이스에 대한 모델 관리를 제공하므로 엣지 디바이스 플릿에서 기계 학습 모델을 최적화, 보안, 모니터링 및 유지할 수 있습니다. SageMaker AI Edge Manager 구성 요소는 코어 디바이스에 SageMaker AI Edge Manager 에이전트의 수명 주기를 설치하고 관리합니다. SageMaker AI Edge Manager를 사용하여 Greengrass 코어 디바이스에서 SageMaker AI Neo 컴파일 모델을 모델 구성 요소로 패키징하고 사용할 수도 있습니다. 코어 디바이스에서 SageMaker AI Edge Manager 에이전트를 사용하는 방법에 대한 자세한 내용은 섹션을 참조하세요Greengrass 코어 디바이스에서 Amazon SageMaker AI Edge Manager 사용.

SageMaker AI Edge Manager 구성 요소 v1.3.x는 Edge Manager 에이전트 바이너리 v1.20220822.836f3023을 설치합니다. Edge Manager 에이전트 바이너리 버전에 대한 자세한 내용은 Edge Manager 에이전트를 참조하세요.

참고

SageMaker AI Edge Manager 구성 요소는 AWS 리전다음에서만 사용할 수 있습니다.

미국 동부(오하이오)
미국 동부(버지니아 북부)
미국 서부(오레곤)
EU(프랑크푸르트)
EU(아일랜드)
아시아 태평양(도쿄)

버전

이 구성 요소에는 다음과 같은 버전이 있습니다.

1.3.x
1.2.x
1.1.x
1.0.x

유형

이 구성 요소는 일반 구성 요소(aws.greengrass.generic)입니다. Greengrass nucleus는 구성 요소의 수명 주기 스크립트를 실행합니다.

자세한 내용은 구성 요소 유형 단원을 참조하십시오.

운영 체제

이 구성 요소는 다음 운영 체제를 실행하는 코어 디바이스에 설치할 수 있습니다.

Linux
Windows

요구 사항

이 구성 요소에는 다음과 같은 요구 사항이 있습니다.

Amazon Linux 2, Debian 기반 Linux 플랫폼(x86_64 또는 Armv8) 또는 Windows(x86_64)에서 실행되는 Greengrass 코어 디바이스. 없으면 자습서: 시작하기 AWS IoT Greengrass V2 단원을 참조하세요.
Python 3.6 이상(사용하는 Python 버전에 대한 pip 포함)이 코어 디바이스에 설치되어 있어야 합니다.

다음과 같이 구성된 Greengrass 디바이스 역할:

다음 IAM 정책 예제와 같이 credentials.iot.amazonaws.com 및가 역할을 수임sagemaker.amazonaws.com하도록 허용하는 신뢰 관계입니다.


{ 
  "Version": "2012-10-17",
  "Statement": [ 
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "credentials.iot.amazonaws.com"
       }, 
      "Action": "sts:AssumeRole" 
    },
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "sagemaker.amazonaws.com"
      }, 
      "Action": "sts:AssumeRole" 
    } 
  ] 
}

AmazonSageMakerEdgeDeviceFleetPolicy IAM 관리형 정책.

다음 IAM 정책 예제와 같은 s3:PutObject 작업입니다.


{
  "Version": "2012-10-17",
  "Statement": [
    {
      "Action": [
        "s3:PutObject"
      ],
      "Resource": [
        "*"
      ],
      "Effect": "Allow"
    }
  ]
}

Greengrass 코어 디바이스 AWS 계정 AWS 리전 와 동일한에서 생성된 Amazon S3 버킷. SageMaker AI Edge Manager에는 엣지 디바이스 플릿을 생성하고 디바이스에서 실행 중인 추론의 샘플 데이터를 저장하는 S3 버킷이 필요합니다. S3 버킷 생성에 대한 자세한 내용은 Amazon S3 시작하기를 참조하세요.
Greengrass 코어 디바이스와 동일한 AWS IoT 역할 별칭을 사용하는 SageMaker AI 엣지 디바이스 플릿입니다. 자세한 내용은 엣지 디바이스 플릿 생성 단원을 참조하십시오.
SageMaker AI Edge 디바이스 플릿에 엣지 디바이스로 등록된 Greengrass 코어 디바이스. 엣지 디바이스 이름은 코어 디바이스의 AWS IoT 사물 이름과 일치해야 합니다. 자세한 내용은 Greengrass 코어 디바이스 등록 단원을 참조하십시오.

엔드포인트 및 포트

이 구성 요소는 기본 작업에 필요한 엔드포인트 및 포트 외에 다음 엔드포인트 및 포트에 대한 아웃바운드 요청도 수행할 수 있어야 합니다. 자세한 내용은 프록시 또는 방화벽을 통해 디바이스 트래픽 허용 단원을 참조하십시오.

엔드포인트 포트 필수 설명

엔드포인트	포트	필수	설명
`edge.sagemaker.region.amazonaws.com`	443	예	디바이스 등록 상태를 확인하고 SageMaker AI로 지표를 전송합니다.
`*.s3.amazonaws.com`	443	예	지정한 S3 버킷에 캡처 데이터를 업로드합니다. `*`를 데이터를 업로드하는 각 버킷의 이름으로 바꿀 수 있습니다.

edge.sagemaker.region.amazonaws.com

443

예

디바이스 등록 상태를 확인하고 SageMaker AI로 지표를 전송합니다.

*.s3.amazonaws.com

443

예

지정한 S3 버킷에 캡처 데이터를 업로드합니다.

*를 데이터를 업로드하는 각 버킷의 이름으로 바꿀 수 있습니다.

종속성

구성 요소를 배포할 때는 호환되는 버전의 종속성 AWS IoT Greengrass 도 배포합니다. 즉, 구성 요소를 성공적으로 배포하려면 구성 요소 및 모든 해당 종속성에 대한 요구 사항을 충족해야 합니다. 이 단원에는 이 구성 요소의 릴리스된 버전에 대한 종속성과 각 종속성에 대한 구성 요소 버전을 정의하는 의미 체계 버전 제약 조건이 나열되어 있습니다. AWS IoT Greengrass 콘솔에서도 각 구성 요소 버전에 대한 종속성을 볼 수 있습니다. 구성 요소 세부 정보 페이지에서 종속성 목록을 찾습니다.

1.3.5 and 1.3.6

다음 표에는 이 구성 요소의 버전 1.3.5 및 1.3.6에 대한 종속성이 나열되어 있습니다.

종속성	호환 버전	종속성 유형
Greengrass nucleus	>=2.0.0 <2.13.0	소프트
토큰 교환 서비스	>=0.0.0	하드

1.3.4

다음 표에는 이 구성 요소의 버전 1.3.4에 대한 종속성이 나열되어 있습니다.

종속성	호환 버전	종속성 유형
Greengrass nucleus	>=2.0.0 <2.12.0	소프트
토큰 교환 서비스	>=0.0.0	하드

1.3.3

다음 표에는 이 구성 요소의 버전 1.3.3에 대한 종속성이 나열되어 있습니다.

종속성	호환 버전	종속성 유형
Greengrass nucleus	>=2.0.0 <2.11.0	소프트
토큰 교환 서비스	>=0.0.0	하드

1.3.2

다음 표에는 이 구성 요소의 버전 1.3.2에 대한 종속성이 나열되어 있습니다.

종속성	호환 버전	종속성 유형
Greengrass nucleus	>=2.0.0 <2.10.0	소프트
토큰 교환 서비스	>=0.0.0	하드

1.3.1

다음 표에는 이 구성 요소의 버전 1.3.1에 대한 종속성이 나열되어 있습니다.

종속성	호환 버전	종속성 유형
Greengrass nucleus	>=2.0.0 <2.9.0	소프트
토큰 교환 서비스	>=0.0.0	하드

1.1.1 - 1.3.0

다음 표에는 이 구성 요소의 버전 1.1.1~1.3.0에 대한 종속성이 나열되어 있습니다.

종속성	호환 버전	종속성 유형
Greengrass nucleus	>=2.0.0 <2.8.0	소프트
토큰 교환 서비스	>=0.0.0	하드

1.1.0

다음 표에는 이 구성 요소의 버전 1.1.0에 대한 종속성이 나열되어 있습니다.

종속성	호환 버전	종속성 유형
Greengrass nucleus	>=2.0.0 <2.6.0	소프트
토큰 교환 서비스	>=0.0.0	하드

1.0.3

다음 표에는 이 구성 요소의 버전 1.0.3에 대한 종속성이 나열되어 있습니다.

종속성	호환 버전	종속성 유형
Greengrass nucleus	>=2.0.0 <2.5.0	소프트
토큰 교환 서비스	>=0.0.0	하드

1.0.1 and 1.0.2

다음 표에는 이 구성 요소의 버전 1.0.1 및 1.0.2에 대한 종속성이 나열되어 있습니다.

종속성	호환 버전	종속성 유형
Greengrass nucleus	>=2.0.0 <2.4.0	소프트
토큰 교환 서비스	>=0.0.0	하드

1.0.0

다음 표에는 이 구성 요소의 버전 1.0.0에 대한 종속성이 나열되어 있습니다.

종속성	호환 버전	종속성 유형
Greengrass nucleus	>=2.0.0 <2.3.0	소프트
토큰 교환 서비스	>=0.0.0	하드

구성 요소 종속성에 대한 자세한 내용은 구성 요소 레시피 참조를 참조하세요.

구성

이 구성 요소는 구성 요소를 배포할 때 사용자 지정할 수 있는 다음 구성 파라미터를 제공합니다.

참고

이 섹션에서는 구성 요소에서 설정하는 구성 파라미터에 대해 설명합니다. 해당 SageMaker AI Edge Manager 구성에 대한 자세한 내용은 Amazon SageMaker AI 개발자 안내서의 Edge Manager 에이전트를 참조하세요.

DeviceFleetName

Greengrass 코어 디바이스가 포함된 SageMaker AI Edge Manager 디바이스 플릿의 이름입니다.

이 구성 요소를 배포하는 경우 구성 업데이트에서 이 파라미터의 값을 지정해야 합니다.

BucketName

캡처된 추론 데이터를 업로드하는 S3 버킷의 이름. 버킷 이름이 sagemaker 문자열을 포함해야 합니다.

CaptureDataDestination을 Cloud로 설정하거나 CaptureDataPeriodicUpload를 true로 설정했다면 이 구성 요소를 배포하는 경우 구성 업데이트에서 이 파라미터의 값을 지정해야 합니다.

참고

캡처 데이터는 향후 분석을 위해 추론 입력, 추론 결과 및 추가 추론 데이터를 S3 버킷 또는 로컬 디렉터리에 업로드하는 데 사용하는 SageMaker AI 기능입니다. SageMaker AI Edge Manager에서 캡처 데이터를 사용하는 방법에 대한 자세한 내용은 Amazon SageMaker AI 개발자 안내서의 모델 관리를 참조하세요.

CaptureDataBatchSize

(선택 사항) 에이전트가 처리하는 캡처 데이터 요청의 배치 크기. 이 값은 CaptureDataBufferSize에서 지정한 버퍼 크기보다 작아야 합니다. 버퍼 크기의 절반을 초과하지 않는 것이 좋습니다.

에이전트는 버퍼에 있는 요청의 수가 CaptureDataBatchSize 수를 충족하거나 CaptureDataPushPeriodSeconds 간격이 경과하는 경우 둘 중 먼저 발생하는 요청 배치를 처리합니다.

기본값: 10

CaptureDataBufferSize

(선택 사항) 버퍼에 저장된 캡처 데이터 요청의 최대 수.

기본값: 30

CaptureDataDestination

(선택 사항) 캡처된 데이터를 저장하는 대상. 이 파라미터의 값은 다음과 같을 수 있습니다.

Cloud - BucketName에서 지정한 S3 버킷에 캡처된 데이터를 업로드합니다.
Disk - 캡처된 데이터를 구성 요소의 작업 디렉터리에 씁니다.

또한 Disk를 지정하는 경우 CaptureDataPeriodicUpload를 true로 설정하여 캡처된 데이터를 S3 버킷에 주기적으로 업로드하도록 선택할 수도 있습니다.

기본값: Cloud

CaptureDataPeriodicUpload

(선택 사항) 캡처된 데이터를 주기적으로 업로드할지 여부를 지정하는 문자열 값. 지원되는 값은 true 및 false입니다.

CaptureDataDestination을 Disk로 설정했고 에이전트가 캡처된 데이터를 S3 버킷에 주기적으로 업로드하도록 하려는 경우 이 파라미터를 true로 설정합니다.

기본값: false

CaptureDataPeriodicUploadPeriodSeconds

(선택 사항) SageMaker AI Edge Manager 에이전트가 캡처된 데이터를 S3 버킷에 업로드하는 초 단위 간격입니다. CaptureDataPeriodicUpload를 true로 설정한 경우 이 파라미터를 사용합니다.

기본값: 8

CaptureDataPushPeriodSeconds

(선택 사항) SageMaker AI Edge Manager 에이전트가 버퍼에서 캡처 데이터 요청의 배치를 처리하는 초 단위 간격입니다.

기본값: 4

CaptureDataBase64EmbedLimit

(선택 사항) SageMaker AI Edge Manager 에이전트가 업로드하는 캡처된 데이터의 최대 바이트 크기입니다.

기본값: 3072

FolderPrefix

(선택 사항) 에이전트가 캡처된 데이터를 쓰는 폴더의 이름. CaptureDataDestination을 Disk로 설정하는 경우 에이전트는 CaptureDataDiskPath에서 지정한 디렉터리에 폴더를 생성합니다. CaptureDataDestination을 Cloud로 설정하거나 CaptureDataPeriodicUpload를 true로 설정한 경우 에이전트가 S3 버킷에 폴더를 생성합니다.

기본값: sme-capture

CaptureDataDiskPath

이 기능은 SageMaker AI Edge Manager 구성 요소의 v1.1.0 이상 버전에서 사용할 수 있습니다.

(선택 사항) 에이전트가 캡처된 데이터 폴더를 생성하는 폴더의 경로. CaptureDataDestination을 Disk로 설정하는 경우 에이전트가 이 디렉터리에 캡처된 데이터 폴더를 생성합니다. 이 값을 지정하지 않으면 에이전트가 구성 요소의 작업 디렉터리에 캡처된 데이터 폴더를 생성합니다. FolderPrefix 파라미터를 사용하여 캡처된 데이터 폴더의 이름을 지정합니다.

기본값: /greengrass/v2/work/aws.greengrass.SageMakerEdgeManager/capture

LocalDataRootPath

이 기능은 SageMaker AI Edge Manager 구성 요소의 v1.2.0 이상 버전에서 사용할 수 있습니다.

(선택 사항) 이 구성 요소가 코어 디바이스에 다음 데이터를 저장하는 경로:

DbEnable을 true로 설정하는 경우 런타임 데이터에 대한 로컬 데이터베이스.
SageMaker 를 DeploymentEnable로 설정하면이 구성 요소가 자동으로 다운로드하는 AI Neo 컴파일 모델입니다true.

기본값: /greengrass/v2/work/aws.greengrass.SageMakerEdgeManager

DbEnable

(선택 사항) 이 구성 요소를 활성화하면 구성 요소가 실패하거나 디바이스 전원이 꺼지는 경우를 대비하여 로컬 데이터베이스에 런타임 데이터를 저장하여 데이터를 보존할 수 있습니다.

이 데이터베이스에는 코어 디바이스의 파일 시스템에 5MB의 스토리지가 필요합니다.

기본값: false

DeploymentEnable

이 기능은 SageMaker AI Edge Manager 구성 요소의 v1.2.0 이상 버전에서 사용할 수 있습니다.

(선택 사항)이 구성 요소를 활성화하여 Amazon S3에 업로드한에서 SageMaker AI Neo 컴파일 모델을 자동으로 검색할 수 있습니다. Amazon S3에 새 모델을 업로드한 후 SageMaker AI Studio 또는 SageMaker AI를 사용하여이 코어 디바이스에 새 모델을 API 배포합니다. 이 기능을 활성화하면 AWS IoT Greengrass 배포를 생성할 필요 없이 코어 디바이스에 새로운 모델을 배포할 수 있습니다.

중요

이 기능을 사용하려면 DbEnable을 true로 설정해야 합니다. 이 기능은 로컬 데이터베이스를 사용하여 AWS 클라우드에서 검색하는 모델을 추적합니다.

기본값: false

DeploymentPollInterval

이 기능은 SageMaker AI Edge Manager 구성 요소의 v1.2.0 이상 버전에서 사용할 수 있습니다.

(선택 사항) 이 구성 요소가 다운로드할 새로운 모델을 확인하는 데 걸리는 시간(분). 이 옵션은 DeploymentEnable을 true로 설정하는 경우 적용됩니다.

기본값: 1440(1일)

DLRBackendOptions

이 기능은 SageMaker AI Edge Manager 구성 요소의 v1.2.0 이상 버전에서 사용할 수 있습니다.

(선택 사항)이 구성 요소가 사용하는 DLR 런타임에 설정할 DLR 런타임 플래그입니다. 다음 플래그를 설정할 수 있습니다.

TVM_TENSORRT_CACHE_DIR – TensorRT 모델 캐싱을 활성화합니다. 읽기/쓰기 권한이 있는 기존 폴더의 절대 경로를 지정합니다.
TVM_TENSORRT_CACHE_DISK_SIZE_MB – TensorRT 모델 캐시 폴더의 상한을 할당합니다. 디렉터리 크기가 이 제한을 초과하여 커지면 가장 적게 사용되는 캐시된 엔진이 삭제됩니다. 기본값은 512MB입니다.

예를 들어 이 파라미터를 다음 값으로 설정하여 TensorRT 모델 캐싱을 활성화하고 캐시 크기를 800MB로 제한할 수 있습니다.


TVM_TENSORRT_CACHE_DIR=/data/secured_folder/trt/cache; TVM_TENSORRT_CACHE_DISK_SIZE_MB=800

SagemakerEdgeLogVerbose

(선택 사항) 디버그 로깅을 활성화할지 여부를 지정하는 문자열 값. 지원되는 값은 true 및 false입니다.

기본값: false

UnixSocketName

(선택 사항) 코어 디바이스에서 SageMaker AI Edge Manager 소켓 파일 설명자의 위치입니다.

기본값: /tmp/aws.greengrass.SageMakerEdgeManager.sock

예: 구성 병합 업데이트

다음 예제 구성은 코어 디바이스가의 일부이고 MyEdgeDeviceFleet 에이전트가 캡처 데이터를 디바이스와 S3 버킷 모두에 쓰도록 지정합니다. 이 구성은 디버그 로깅도 활성화합니다.


{
    "DeviceFleetName": "MyEdgeDeviceFleet",
    "BucketName": "amzn-s3-demo-bucket",
    "CaptureDataDestination": "Disk",
    "CaptureDataPeriodicUpload": "true",
    "SagemakerEdgeLogVerbose": "true"    
}

로컬 로그 파일

이 구성 요소는 다음 로그 파일을 사용합니다.

이 구성 요소의 로그를 보려면

코어 디바이스에서 다음 명령을 실행하여 실시간으로 이 구성 요소의 로그 파일을 봅니다. /greengrass/v2 또는를 AWS IoT Greengrass 루트 폴더의 경로C:\greengrass\v2로 바꿉니다.
Linux
```
sudo tail -f /greengrass/v2/logs/aws.greengrass.SageMakerEdgeManager.log
```
Windows (PowerShell)
```
Get-Content C:\greengrass\v2\logs\aws.greengrass.SageMakerEdgeManager.log -Tail 10 -Wait
```

Changelog

다음 표에는 각 구성 요소 버전의 변경 사항이 설명되어 있습니다.

버전	변경 사항
1.3.6	Greengrass nucleus 2.12.5 릴리스용으로 업데이트된 버전입니다.
1.3.5	Greengrass nucleus 버전 2.12.0 릴리스용으로 업데이트된 버전입니다.
1.3.4	Greengrass nucleus 버전 2.11.0 릴리스용으로 업데이트된 버전입니다.
1.3.3	Greengrass nucleus 버전 2.10.0 릴리스용으로 업데이트된 버전입니다.
1.3.2	Greengrass nucleus 버전 2.9.0 릴리스용으로 업데이트된 버전입니다.
1.3.1	Greengrass nucleus 버전 2.8.0 릴리스용으로 업데이트된 버전입니다.
1.3.0	새로운 특성 TensorRT 캐시 디스크 크기 관리에 대한 지원을 추가합니다. 선택적 `TVM_TENSORRT_CACHE_DISK_SIZE_MB` 플래그를 DLRBackendOptions 파라미터에 추가하여 디스크에 캐시된 모델의 크기 제한을 설정합니다. 개선 사항 개선된 예측 동시성을 제공합니다. 이렇게 하면와 같은 디바이스 액셀러레이터 엔진을 더 잘 사용할 수 있습니다GPUs.
1.2.0	새로운 특성 Amazon S3에 업로드하는 SageMaker AI Neo 컴파일 모델을 자동으로 검색하도록이 구성 요소에 대한 지원을 추가합니다. 이 기능을 활성화하면 배포를 생성할 필요 없이 코어 디바이스에 새 모델을 AWS IoT Greengrass 배포할 수 있습니다. 구성 요소가 실패하거나 디바이스의 전원이 손실되는 경우를 대비하여 이 구성 요소가 런타임 데이터를 보존하는 데 사용하는 백업 데이터베이스에 대한 지원을 추가합니다. 이 구성 요소를 구성할 때 DLR 런타임 플래그를 구성할 수 있는 지원을 추가합니다.
1.1.1	Greengrass nucleus 버전 2.7.0 릴리스용으로 업데이트된 버전입니다.
1.1.0	새로운 특성 Amazon Linux 2를 실행하는 Greengrass 코어 디바이스에 대한 지원을 추가합니다. 새로운 `CaptureDataDiskPath` 구성 파라미터를 추가합니다. 이 파라미터를 사용하여 디바이스에서 캡처된 데이터 폴더의 경로를 지정할 수 있습니다. 버그 수정 및 개선 사항 Greengrass nucleus 버전 2.5.0 릴리스용으로 업데이트된 버전입니다.
1.0.3	Greengrass nucleus 버전 2.4.0 릴리스용으로 업데이트된 버전입니다.
1.0.2	버그 수정 및 개선 사항 구성 요소 수명 주기에서 설치 스크립트를 업데이트합니다. 이 구성 요소를 배포하기 전에 코어 디바이스에 Python 버전에 대한 `pip`를 포함하여 Python 3.6 이상이 설치되어 있어야 합니다.
1.0.1	Greengrass nucleus 버전 2.3.0 릴리스용으로 업데이트된 버전입니다.
1.0.0	초기 버전입니다.

javascript가 브라우저에서 비활성화되거나 사용이 불가합니다.

AWS 설명서를 사용하려면 Javascript가 활성화되어야 합니다. 지침을 보려면 브라우저의 도움말 페이지를 참조하십시오.

문서 규칙

Lookout for Vision Edge Agent를 찾아보세요

DLR 이미지 분류