更新 8.0. AWS 29 之后使用 Panorama - AWS Panorama

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

更新 8.0. AWS 29 之后使用 Panorama

AWSPanorama 版本 8.0.29 终止了对 SageMaker AI Neo 模型的支持。这是因为适用于边缘设备的 SageMaker AI Neo 已经取消了对 NVIDIA Jetpack SDK 的支持。尽管你仍然可以在较旧的映像上部署 Jetpack 4.6 Neo 型号,但8.0.29不支持 Jetpack 4.6。如果您的应用程序当前正在使用 SageMaker AI Neo 模型节点,则有两种操作方式可供选择:

  1. 在没有 Neo 模型的情况下重建您的应用程序,以便与 Jetpack 5.1.1 配合使用。推荐的策略是直接在上运行GPU模型。有关更多信息,请参阅以下 “在 Open 模式GPU下运行应用程序” 部分。

  2. 拒绝更新到 8.0.29 并继续使用 Neo 模型节点。

虽然 8.0.29 镜像被标记为 “必选”,但您不会被迫升级到该镜像。使用旧映像时,所有常规功能都可用,包括管理(部署)应用程序以及OTA从一个 8.0.29 之前的映像到另一个 8.0.29 之前的映像。但是,您将无法OTA从 8.0.29 之后的图像转换为之前的较旧图像。

以下是允许和不允许更改哪些版本的示例:

  • 允许:6.0.8-> 6.2.1

  • 允许:6.2.1-> 7.0.13

  • 允许:7.0.13-> 8.0.29

  • 不允许:8.0.29-> 7.0.13

应用程序基础映像更改

1.2.1-arm64v8 和最新版本的 Docker 基础镜像可以在以下链接中找到:

亚马逊ECR公共画廊

8.0.29 的应用程序基础映像更改如下:

  • 将基础镜像从 Ubuntu 18 更改为 Ubuntu 20

  • 软件版本:

    1. Python-3.8.10

    2. NumPy -1.24.4

在开放GPU框架上运行应用程序

如果您想更新到已停止支持 SageMaker AI Neo 的 AWS Panorama 版本,则可以将 A SageMaker I Neo 应用程序迁移到使用 Open 的框架GPU。使用 Open 的优势在GPU于,您的应用程序可以直接访问GPU和硬件访问,从而为您提供更大的灵活性和性能。

以下链接是一些示例应用程序,演示了如何使用 O GPU pen 运行 Jetpack 5 应用程序:

在 Panorama 中使用 Tensor RT 运行 Yolov5s

将 yolov5s 转换为 Panorma ONNX 并在 Panorma 上运行

使用 Torch 在 Panorama 上运行 Yolov5s 然后 TorchVision