设置您的 设备 - Amazon SageMaker

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

设置您的 设备

您需要在边缘设备上安装软件包,使设备可以进行推理。你还需要安装 AWS IoT Greengrass 核心深度学习运行时 ()。DLR在本示例中,您将安装推断coco_ssd_mobilenet对象检测算法所需的软件包,然后使用DLR。

  1. 安装其他软件包

    除 Boto3 之外,您还必须在边缘设备上安装某些库。安装哪些库因使用案例而定。

    例如,对于之前下载的coco_ssd_mobilenet物体检测算法,需要安装 Matplotlib 来NumPy进行数据操作和统计,加载图像,PIL需要安装 Matplotlib 来生成绘图。 TensorFlow 如果您想衡量使用 Neo 进行编译对比基准的影响,则还需要一份副本。

    !pip3 install numpy pillow tensorflow matplotlib
  2. 在设备上安装推理引擎

    要运行 Neo 编译模型,请在设备上安装深度学习运行时 (DLR)。DLR是深度学习模型和决策树模型的紧凑型通用运行时。在运行 Linux 的 x86_64 CPU 目标上,您可以使用以下命令安装最新版本的DLR软件包:pip

    !pip install dlr

    要DLR在GPU目标设备或非 x86 边缘设备上安装,请参阅预编译二进制文件的发行版或从源代码构建DLR的安装。DLR例如,要为 Raspberry Pi 3 DLR 进行安装,可以使用:

    !pip install https://neo-ai-dlr-release.s3-us-west-2.amazonaws.com/v1.3.0/pi-armv7l-raspbian4.14.71-glibc2_24-libstdcpp3_4/dlr-1.3.0-py3-none-any.whl