本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
设置您的 设备
您需要在边缘设备上安装软件包,使设备可以进行推理。你还需要安装 AWS IoT Greengrass 核心或coco_ssd_mobilenet
对象检测算法所需的软件包,然后使用DLR。
-
安装其他软件包
除 Boto3 之外,您还必须在边缘设备上安装某些库。安装哪些库因使用案例而定。
例如,对于之前下载的
coco_ssd_mobilenet
物体检测算法,需要安装 Matplotlib 来NumPy进行数据操作和统计,加载图像,PIL 需要安装 Matplotlib 来生成绘图 。 TensorFlow 如果您想衡量使用 Neo 进行编译对比基准的影响,则还需要一份副本。 !pip3 install numpy pillow tensorflow matplotlib
-
在设备上安装推理引擎
要运行 Neo 编译模型,请在设备上安装深度学习运行时 (DLR)
。DLR是深度学习模型和决策树模型的紧凑型通用运行时。在运行 Linux 的 x86_64 CPU 目标上,您可以使用以下命令安装最新版本的DLR软件包: pip
!pip install dlr
要DLR在GPU目标设备或非 x86 边缘设备上安装,请参阅预编译二进制文件的发行版
或从源代码构建DLR的安装 。DLR例如,要为 Raspberry Pi 3 DLR 进行安装,可以使用: !pip install https://neo-ai-dlr-release.s3-us-west-2.amazonaws.com/v1.3.0/pi-armv7l-raspbian4.14.71-glibc2_24-libstdcpp3_4/dlr-1.3.0-py3-none-any.whl