기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
기계 학습 추론 수행
를 사용하면 클라우드 훈련 모델을 사용하여 로컬에서 생성된 데이터에서 엣지 디바이스에 기계 학습(ML) 추론을 수행할 AWS IoT Greengrass수 있습니다. 이를 통해 로컬 추론 실행의 낮은 지연 시간과 비용 절감이라는 이점을 얻을 수 있습니다. 그러면서도 모델 훈련 및 복잡한 처리에 필요한 클라우드 컴퓨팅 능력을 활용할 수 있습니다.
AWS IoT Greengrass 는 추론을 더 효율적으로 수행하는 데 필요한 단계를 제공합니다. 어디서나 추론 모델을 훈련하고 기계 학습 구성 요소로 로컬에 배포할 수 있습니다. 예를 들어 Amazon SageMaker AI에서 딥 러닝 모델을 빌드하고 훈련하거나 Amazon
주제
AWS IoT Greengrass ML 추론 작동 방식
AWS 는 디바이스에서 기계 학습 추론을 수행하기 위한 원스텝 배포를 생성하는 데 사용할 수 있는 기계 학습 구성 요소를 제공합니다. 또한 이러한 구성 요소를 템플릿으로 사용하여 특정 요구 사항에 맞는 사용자 지정 구성 요소를 생성할 수도 있습니다.
AWS 는 다음과 같은 기계 학습 구성 요소 범주를 제공합니다.
-
모델 구성 요소 - 기계 학습 모델을 Greengrass 아티팩트로 포함합니다.
-
런타임 구성 요소 - Greengrass 코어 디바이스에서 기계 학습 프레임워크 및 그 종속성을 설치하는 스크립트를 포함합니다.
-
추론 구성 요소 - 추론 코드를 포함하고 기계 학습 프레임워크를 설치하고 사전 훈련된 기계 학습 모델을 다운로드하기 위한 구성 요소 종속성을 포함합니다.
기계 학습 추론을 수행하기 위해 생성하는 각 배포는 추론 애플리케이션을 실행하고, 기계 학습 프레임워크를 설치하고, 기계 학습 모델을 다운로드하는 하나 이상의 구성 요소로 구성됩니다. AWS제공된 구성 요소를 사용하여 샘플 추론을 수행하려면 해당 모델 및 런타임 구성 요소를 종속성으로 자동 포함하는 추론 구성 요소를 코어 디바이스에 배포합니다. 배포를 사용자 지정하려면 샘플 모델 구성 요소를 사용자 지정 모델 구성 요소로 연결하거나 교체하거나 AWS제공된 구성 요소에 대한 구성 요소 레시피를 템플릿으로 사용하여 사용자 지정 추론, 모델 및 런타임 구성 요소를 생성할 수 있습니다.
사용자 지정 구성 요소를 사용하여 기계 학습 추론을 수행하려면
-
모델 구성 요소를 생성합니다. 이 구성 요소에는 추론을 수행하는 데 사용할 기계 학습 모델이 포함되어 있습니다.는 사전 훈련된 샘플 DLR 및 TensorFlow Lite 모델을 AWS 제공합니다. 사용자 지정 모델을 사용하려면 모델 구성 요소를 직접 생성합니다.
-
런타임 구성 요소를 생성합니다. 이 구성 요소에는 모델에 기계 학습 런타임을 설치하는 데 필요한 스크립트가 포함되어 있습니다.는 딥 러닝 런타임() 및 Lite에 샘플 런타임
구성 요소를 AWS 제공합니다.DLR TensorFlow 사용자 지정 모델 및 추론 코드가 포함된 다른 런타임을 사용하려면 런타임 구성 요소를 직접 생성합니다. -
추론 구성 요소를 생성합니다. 이 구성 요소에는 추론 코드가 포함되어 있으며 모델 및 런타임 구성 요소를 종속성으로 포함합니다.는 DLR 및 TensorFlow Lite를 사용하여 이미지 분류 및 객체 감지를 위한 샘플 추론 구성 요소를 AWS 제공합니다. 다른 유형의 추론을 수행하거나 사용자 지정 모델 및 런타임을 사용하려면 추론 구성 요소를 직접 생성합니다.
-
추론 구성 요소를 배포합니다. 이 구성 요소를 배포하면 AWS IoT Greengrass 도 모델 및 런타임 구성 요소 종속성을 자동으로 배포합니다.
AWS제공된 구성 요소를 시작하려면 섹션을 참조하세요자습서: TensorFlow Lite를 사용하여 샘플 이미지 분류 추론 수행.
사용자 지정 기계 학습 구성 요소를 생성하는 방법에 대한 자세한 내용은 기계 학습 구성 요소 사용자 지정 섹션을 참조하세요.
AWS IoT Greengrass 버전 2의 차이점은 무엇인가요?
AWS IoT Greengrass 는 모델, 런타임 및 추론 코드와 같은 기계 학습의 기능적 단위를 구성 요소로 통합하여 1단계 프로세스를 사용하여 기계 학습 런타임을 설치하고, 훈련된 모델을 다운로드하고, 디바이스에서 추론을 수행할 수 있도록 합니다.
AWS제공된 기계 학습 구성 요소를 사용하면 샘플 추론 코드 및 사전 훈련된 모델을 사용하여 기계 학습 추론을 수행할 수 있습니다. 사용자 지정 모델 구성 요소를 연결하여가 AWS 제공하는 추론 및 런타임 구성 요소와 함께 사용자 지정 훈련 모델을 사용할 수 있습니다. 완전히 사용자 지정된 기계 학습 솔루션이 필요한 경우 퍼블릭 구성 요소를 템플릿으로 사용하여 사용자 지정 구성 요소를 생성하고 원하는 런타임, 모델 또는 추론 유형을 사용할 수 있습니다.
요구 사항
기계 학습 구성 요소를 생성하고 사용하려면 다음이 있어야 합니다.
-
Greengrass 코어 디바이스. 없으면 자습서: 시작하기 AWS IoT Greengrass V2 단원을 참조하세요.
-
AWS제공된 샘플 기계 학습 구성 요소를 사용하기 위한 최소 500MB의 로컬 스토리지 공간.
지원되는 모델 소스
AWS IoT Greengrass 는 Amazon S3에 저장된 사용자 지정 훈련된 기계 학습 모델 사용을 지원합니다. Amazon SageMaker AI 엣지 패키징 작업을 사용하여 SageMaker AI Neo 컴파일 모델의 모델 구성 요소를 직접 생성할 수도 있습니다. 에서 SageMaker AI Edge Manager를 사용하는 방법에 대한 자세한 내용은 섹션을 AWS IoT Greengrass참조하세요Greengrass 코어 디바이스에서 Amazon SageMaker AI Edge Manager 사용. Amazon Lookout for Vision 모델 패키징 작업을 사용하여 Lookout for Vision 모델의 모델 구성 요소를 생성할 수도 있습니다. 에서 Lookout for Vision을 사용하는 방법에 대한 자세한 내용은 섹션을 AWS IoT Greengrass참조하세요Greengrass 코어 디바이스에서 Amazon Lookout for Vision 사용.
모델이 포함되는 S3 버킷은 다음과 같은 요구 사항을 충족해야 합니다.
-
SSE-C를 사용하여 암호화해서는 안 됩니다. 서버 측 암호화를 사용하는 버킷의 경우 AWS IoT Greengrass 기계 학습 추론은 현재 SSE-S3 또는 SSE-KMS 암호화 옵션만 지원합니다. 자세한 내용은 Amazon Simple Storage Service 사용 설명서의 서버 측 암호화 옵션을 사용하여 데이터 보호를 참조하세요.
-
이름에 마침표(
.
)를 포함하면 안 됩니다. 자세한 내용은 Amazon Simple Storage Service 사용 설명서의 버킷 이름 지정 규칙SSL에서에서 가상 호스팅 스타일 버킷 사용에 대한 규칙을 참조하세요. https://docs.aws.amazon.com/AmazonS3/latest/dev/BucketRestrictions.html#bucketnamingrules -
모델 소스를 저장하는 S3 버킷은 AWS 리전 기계 학습 구성 요소와 동일한 AWS 계정 에 있어야 합니다.
-
AWS IoT Greengrass 에는 모델 소스에 대한
read
권한이 있어야 합니다. AWS IoT Greengrass 가 S3 버킷에 액세스할 수 있도록 하려면 Greengrass 디바이스 역할이s3:GetObject
작업을 허용해야 합니다. 디바이스 역할에 대한 자세한 내용은 코어 디바이스에 AWS 서비스와 상호 작용 권한 부여 섹션을 참조하세요.
지원되는 기계 학습 런타임
AWS IoT Greengrass 를 사용하면 원하는 기계 학습 런타임을 사용하여 사용자 지정 학습 모델을 사용하여 기계 학습 추론을 수행할 수 있는 사용자 지정 구성 요소를 생성할 수 있습니다. 사용자 지정 기계 학습 구성 요소를 생성하는 방법에 대한 자세한 내용은 기계 학습 구성 요소 사용자 지정 섹션을 참조하세요.
기계 학습을 더 효율적으로 시작하는 프로세스를 만들기 위해는 다음 기계 학습 런타임을 사용하는 샘플 추론, 모델 및 런타임 구성 요소를 AWS IoT Greengrass 제공합니다.
-
딥 러닝 런타임
(DLR) v1.6.0 및 v1.3.0 -
TensorFlow Lite
v2.5.0
AWS제공 기계 학습 구성 요소
다음 표에는 기계 학습에 사용되는 AWS제공된 구성 요소가 나열되어 있습니다.
참고
여러 AWS제공 구성 요소는 Greengrass 핵의 특정 마이너 버전에 따라 다릅니다. 이 종속성 때문에 Greengrass nucleus를 새로운 마이너 버전으로 업데이트할 때 이러한 구성 요소를 업데이트해야 합니다. 각 구성 요소가 달라지는 특정 nucleus 버전에 대한 내용은 해당 구성 요소 주제를 참조하세요. nucleus 업데이트에 대한 자세한 내용은 AWS IoT Greengrass 코어 소프트웨어(OTA) 업데이트 섹션을 참조하세요.
구성 요소 | 설명 | 구성 요소 유형 | 지원되는 OS | 오픈 소스 |
---|---|---|---|---|
Lookout for Vision Edge Agent를 찾아보세요 | 컴퓨터 비전을 사용하여 산업용 제품의 결함을 찾을 수 있도록 Amazon Lookout for Vision 런타임을 Greengrass 코어 디바이스에 배포합니다. | 일반 | Linux | No |
SageMaker AI 엣지 관리자 | Greengrass 코어 디바이스에 Amazon SageMaker AI Edge Manager 에이전트를 배포합니다. | 일반 | Linux, Windows | No |
DLR 이미지 분류 | DLR 이미지 분류 모델 스토어와 DLR 런타임 구성 요소를 종속 항목으로 사용하여를 설치하고DLR, 샘플 이미지 분류 모델을 다운로드하고, 지원되는 디바이스에서 이미지 분류 추론을 수행하는 추론 구성 요소입니다. | 일반 | Linux, Windows | No |
DLR 객체 감지 | DLR 객체 감지 모델 스토어와 DLR 런타임 구성 요소를 종속성으로 사용하여를 설치하고DLR, 샘플 객체 감지 모델을 다운로드하고, 지원되는 디바이스에서 객체 감지 추론을 수행하는 추론 구성 요소입니다. | 일반 | Linux, Windows | No |
DLR 이미지 분류 모델 스토어 | Greengrass 아티팩트로서 샘플 ResNet50 이미지 분류 모델을 포함하는 모델 구성 요소. | 일반 | Linux, Windows | No |
DLR 객체 감지 모델 스토어 | Greengrass 아티팩트로 샘플 YOLOv3 객체 감지 모델을 포함하는 모델 구성 요소. | 일반 | Linux, Windows | No |
DLR 런타임 | Greengrass 코어 디바이스에 DLR 및 해당 종속성을 설치하는 데 사용되는 설치 스크립트가 포함된 런타임 구성 요소입니다. | 일반 | Linux, Windows | No |
TensorFlow Lite 이미지 분류 | Lite 이미지 분류 모델 스토어와 TensorFlow Lite 런타임 구성 요소를 종속 항목으로 사용하여 TensorFlow TensorFlow Lite를 설치하고, 샘플 이미지 분류 모델을 다운로드하고, 지원되는 디바이스에서 이미지 분류 추론을 수행하는 추론 구성 요소입니다. | 일반 | Linux, Windows | No |
TensorFlow Lite 객체 감지 | Lite 객체 감지 모델 스토어와 TensorFlow Lite 런타임 구성 요소를 종속성으로 사용하여 TensorFlow TensorFlow Lite를 설치하고, 샘플 객체 감지 모델을 다운로드하고, 지원되는 디바이스에서 객체 감지 추론을 수행하는 추론 구성 요소입니다. | 일반 | Linux, Windows | No |
TensorFlow Lite 이미지 분류 모델 저장소 | Greengrass 아티팩트로서 샘플 MobileNet v1 모델을 포함하는 모델 구성 요소. | 일반 | Linux, Windows | No |
TensorFlow Lite 객체 감지 모델 저장소 | Greengrass 아티팩트로서 샘플 Single Shot Detection (SSD) MobileNet 모델을 포함하는 모델 구성 요소입니다. | 일반 | Linux, Windows | No |
TensorFlow Lite 런타임 | Greengrass 코어 디바이스에 TensorFlow Lite 및 해당 종속성을 설치하는 데 사용되는 설치 스크립트가 포함된 런타임 구성 요소입니다. | 일반 | Linux, Windows | No |