本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
设置您的 AWS IoT Greengrass Version 2 核心设备
Amazon Lookout for Vision 使用 AWS IoT Greengrass Version 2,可以更简单地将模型组件、Amazon Lookout for Vision Edge Agent 组件和客户端应用程序组件部署到您的 AWS IoT Greengrass V2 核心设备。有关可以使用的设备和硬件的信息,请参阅 AWS IoT Greengrass Version 2 核心设备要求。
设置您的核心设备
使用以下信息来设置您的核心设备。
设置您的核心设备
设置您的 GPU 库。如果不使用 GPU 加速推理,请勿执行此步骤。
确认您具有支持 CUDA 的 GPU。有关更多信息,请参阅验证您具有支持 CUDA 的 GPU
。 通过执行以下操作之一,在您的设备上设置 CUDA、cuDNN 和 TensorRT:
如果使用的是 Jetson 设备,请安装 JetPack 版本 4.4-4.6.1。有关更多信息,请参阅 JetPack 归档
。 如果使用的是基于 x86 的硬件,并且您的 NVIDIA GPU 微架构早于 Ampere(计算能力低于 8.0),请执行以下操作:
按照 Linux 系统 NVIDIA CUDA 安装指南
中的说明,设置 CUDA 版本 10.2。 按照 NVIDIA cuDNN 文档
中的说明,安装 cuDNN。 按照 NVIDIA TENSORRT 文档
中的说明,设置 TensorRT(版本 7.1.3 或更高版本,但低于 8.0.0)。
如果使用的是基于 x86 的硬件,并且您的 NVIDIA GPU 微架构是 Ampere(计算能力为 8.0),请执行以下操作:
按照 Linux 系统 NVIDIA CUDA 安装指南
中的说明,设置 CUDA(版本 11.2)。 按照 NVIDIA cuDNN 文档
中的说明,安装 cuDNN。 按照 NVIDIA TENSORRT 文档
中的说明,设置 TensorRT(版本 8.2.0)。
在您的核心设备上安装 AWS IoT Greengrass Version 2 核心软件。有关更多信息,请参阅 AWS IoT Greengrass Version 2 开发者指南 中的安装 Amazon IoT Greengrass 核心软件。
要从存储模型的 Amazon S3 桶中执行读取操作,请将权限附加到您在 AWS IoT Greengrass Version 2 设置期间创建的 IAM 角色(令牌交换角色)。有关更多信息,请参阅允许访问 S3 桶中的组件构件。
在命令提示符处,输入以下命令,将 Python 和 Python 虚拟环境安装到核心设备上。
sudo apt install python3.8 python3-venv python3.8-venv
使用以下命令,将 Greengrass 用户添加到视频组。这将允许 Greengrass 部署的组件访问 GPU:
sudo usermod -a -G video ggc_user
(可选)如果要从其他用户调用 Lookout for Vision Edge Agent API,请将该用户添加到
ggc_group
中。这将允许用户通过 Unix 域套接字与 Lookout for Vision Edge Agent 进行通信:sudo usermod -a -G ggc_group $(whoami)