AWS IoT Greengrass Version 2核心裝置需求 - Amazon Lookout for Vision
經過測試的裝置、晶片架構和作業系統核心裝置記憶體與儲存所需軟體

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

AWS IoT Greengrass Version 2核心裝置需求

若要在AWS IoT Greengrass Version 2核心裝置上使用 Amazon Lookout for Vision 模型，您的模型具有核心裝置的各種需求。

經過測試的裝置、晶片架構和作業系統

我們希望亞馬遜觀景視覺能夠在以下硬件上工作：

  • CPU 架構

    • X86_64 (64 位元版本的 x86 指令集)

    • 64 位元 CPU (64 位元)

  • (僅適用於 GPU 加速推論) 具有足夠記憶體容量的 NVIDIA GPU 加速器 (執行中的機型至少需要 6.0 GB)。

亞馬遜 Lookout for Vision 察團隊已在以下設備、芯片架構和操作系統上測試了 Lookout for Vision 望模型。

裝置

裝置 作業系統 架構 加速器 編譯器選項

傑特森沙維爾 (NVIDIA® 傑特森 AGX 澤維爾)

Linux

Aarch64

NVIDIA

{"gpu-code": "sm_72", "trt-ver": "7.1.3", "cuda-ver": "10.2"}

{"gpu-code": "sm_72", "trt-ver": "8.2.1", "cuda-ver": "10.2"}

大型 (EC2 執行個體 (含 NVIDIA T4 張量核心 GPU 的 EC2 執行個體 (G4))

Linux

X86_64/X86-64

NVIDIA

{"gpu-code": "sm_75", "trt-ver": "7.1.3", "cuda-ver": "10.2"}

大型 (含 NVIDIA A10G 張量核心 GPU 的 EC2 執行個體 (G5))

Linux

X86_64/X86-64

NVIDIA

{"gpu-code": "sm_80", "trt-ver": "8.2.0", "cuda-ver": "11.2"}

大型 (Amazon EC2 C5 執行個體)

Linux

X86_64/X86-64

CPU

{"mcpu": "core-avx2"}

核心裝置記憶體與儲存

若要執行單一模型和 Amazon Lookout for Vision 邊緣代理程式，您的核心裝置具有下列記憶體和儲存需求。用戶端應用程式元件可能需要更多記憶體和儲存空間。

  • 儲存空間 — 至少 1.5 GB。

  • 記憶體 — 執行中模型至少 6.0 GB。

所需軟體

核心裝置需要下列軟體。

傑森設備

如果您的核心設備是 Jetson 設備，則需要在核心設備上安裝以下軟件。

軟體 支援的版本

噴氣背包 SDK

4 至 6

Python 和 Python 虛擬環境，用於瞭解視覺邊緣代理程式版本 1.x

或

硬體

如果您的核心裝置使用 x86 硬體，則需要在核心裝置上安裝下列軟體。

推断

軟體 支援的版本

Python 和 Python 虛擬環境，用於瞭解視覺邊緣代理程式版本 1.x

或

GPU 加速推論

軟體版本會根據您使用的 NVIDIA GPU 的微架構而有所不同。

NVIDIA GPU 具備安培以前的微架構 (運算能力低於 8.0)

具有安培之前微架構的 NVIDIA GPU 所需的軟體 (運算能力低於 8.0)。必gpu-code須小於sm_80。

軟體 支援的版本

英偉達

10.2

英偉 TensorRT

至少為 7.1.3 且小於 8.0.0

Python 和 Python 虛擬環境，用於瞭解視覺邊緣代理程式版本 1.x

或
配備安培微架構的 NVIDIA GPU (運算能力 8.0)

具有安培微架構的 NVIDIA GPU 所需的軟體 (運算能力為 8.0)。必gpu-code須是sm_80)。

軟體 支援的版本

英偉達

11.2

英偉 TensorRT

8.2.0

Python 和 Python 虛擬環境，用於瞭解視覺邊緣代理程式版本 1.x

或