AWS IoT Greengrass Version 2 核心设备要求 - Amazon Lookout for Vision

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

AWS IoT Greengrass Version 2 核心设备要求

为了在 AWS IoT Greengrass Version 2 核心设备上使用 Amazon Lookout for Vision 模型,您的模型对核心设备有各种不同的要求。

经过测试的设备、芯片架构和操作系统

我们预计 Amazon Lookout for Vision 将在以下硬件上运行:

  • CPU 架构

    • X86_64(64 位版本的 x86 指令集)

    • Aarch64(ARMv8 64 位 CPU)

  • (仅限 GPU 加速推理)具有足够内存容量的 NVIDIA GPU 加速器(一个运行中的模型至少需要 6.0 GB)。

Amazon Lookout for Vision 团队已在以下设备、芯片架构和操作系统上测试 Lookout for Vision 模型。

设备

设备 操作系统 架构 Accelerator 编译器选项

jetson_xavier (NVIDIA® Jetson AGX Xavier)

Linux

Aarch64

NVIDIA

{"gpu-code": "sm_72", "trt-ver": "7.1.3", "cuda-ver": "10.2"}

{"gpu-code": "sm_72", "trt-ver": "8.2.1", "cuda-ver": "10.2"}

g4dn.xlarge [配备 NVIDIA T4 Tensor Core GPU 的 EC2 实例 (G4)]

Linux

X86_64/X86-64

NVIDIA

{"gpu-code": "sm_75", "trt-ver": "7.1.3", "cuda-ver": "10.2"}

g5.xlarge [配备 NVIDIA A10G Tensor Core GPU 的 EC2 实例 (G5)]

Linux

X86_64/X86-64

NVIDIA

{"gpu-code": "sm_80", "trt-ver": "8.2.0", "cuda-ver": "11.2"}

c5.2xlarge(Amazon EC2 C5 实例

Linux

X86_64/X86-64

CPU

{"mcpu": "core-avx2"}

核心设备内存和存储

为了运行单个模型和 Amazon Lookout for Vision Edge Agent,您的核心设备需要满足以下内存和存储要求。您的客户端应用程序组件可能需要更多内存和存储。

  • 存储:至少 1.5 GB。

  • 内存:一个运行中的模型至少需要 6.0 GB。

必需的软件

核心设备需要具有以下软件。

Jetson 设备

如果您的核心设备是 Jetson 设备,则需要在核心设备上安装以下软件。

软件 支持的版本

Jetpack SDK

4.4 到 4.6.1

Python 和适用于 Lookout for Vision Edge Agent 版本 1.x 的 Python 虚拟环境

3.8 或 3.9

X86 硬件

如果您的核心设备使用 x86 硬件,则需要在核心设备上安装以下软件。

CPU 推理

软件 支持的版本

Python 和适用于 Lookout for Vision Edge Agent 版本 1.x 的 Python 虚拟环境

3.8 或 3.9

GPU 加速推理

软件版本因您使用的 NVIDIA GPU 的微架构而异。

采用 Ampere 之前微架构的 NVIDIA GPU(计算能力低于 8.0)

采用 Ampere 之前微架构的 NVIDIA GPU(计算能力低于 8.0)所需的软件。gpu-code 必须小于 sm_80

软件 支持的版本

NVIDIA CUDA

10.2

NVIDIA TensorRT

至少 7.1.3 且低于 8.0.0

Python 和适用于 Lookout for Vision Edge Agent 版本 1.x 的 Python 虚拟环境

3.8 或 3.9

采用 Ampere 微架构的 NVIDIA GPU(计算能力 8.0)

采用 Ampere 微架构的 NVIDIA GPU(计算能力为 8.0)所需的软件。gpu-code 必须是 sm_80

软件 支持的版本

NVIDIA CUDA

11.2

NVIDIA TensorRT

8.2.0

Python 和适用于 Lookout for Vision Edge Agent 版本 1.x 的 Python 虚拟环境

3.8 或 3.9