本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
更新 8.0. AWS 29 之后使用 Panorama
AWSPanorama 版本 8.0.29 终止了对 SageMaker AI Neo 模型的支持。这是因为适用于边缘设备的 SageMaker AI Neo 已经取消了对 NVIDIA Jetpack SDK 的支持。尽管你仍然可以在较旧的映像上部署 Jetpack 4.6 Neo 型号,但8.0.29不支持 Jetpack 4.6。如果您的应用程序当前正在使用 SageMaker AI Neo 模型节点,则有两种操作方式可供选择:
-
在没有 Neo 模型的情况下重建您的应用程序,以便与 Jetpack 5.1.1 配合使用。推荐的策略是直接在上运行GPU模型。有关更多信息,请参阅以下 “在 Open 模式GPU下运行应用程序” 部分。
-
拒绝更新到 8.0.29 并继续使用 Neo 模型节点。
虽然 8.0.29 镜像被标记为 “必选”,但您不会被迫升级到该镜像。使用旧映像时,所有常规功能都可用,包括管理(部署)应用程序以及OTA从一个 8.0.29 之前的映像到另一个 8.0.29 之前的映像。但是,您将无法OTA从 8.0.29 之后的图像转换为之前的较旧图像。
以下是允许和不允许更改哪些版本的示例:
允许:6.0.8-> 6.2.1
允许:6.2.1-> 7.0.13
允许:7.0.13-> 8.0.29
不允许:8.0.29-> 7.0.13
应用程序基础映像更改
1.2.1-arm64v8 和最新版本的 Docker 基础镜像可以在以下链接中找到:
8.0.29 的应用程序基础映像更改如下:
-
将基础镜像从 Ubuntu 18 更改为 Ubuntu 20
-
软件版本:
-
Python-3.8.10
-
NumPy -1.24.4
-
在开放GPU框架上运行应用程序
如果您想更新到已停止支持 SageMaker AI Neo 的 AWS Panorama 版本,则可以将 A SageMaker I Neo 应用程序迁移到使用 Open 的框架GPU。使用 Open 的优势在GPU于,您的应用程序可以直接访问GPU和硬件访问,从而为您提供更大的灵活性和性能。
以下链接是一些示例应用程序,演示了如何使用 O GPU pen 运行 Jetpack 5 应用程序:
在 Panorama 中使用 Tensor RT 运行 Yolov5s
将 yolov5s 转换为 Panorma ONNX 并在 Panorma 上运行
使用 Torch 在 Panorama 上运行 Yolov5s 然后 TorchVision