更新 8.0.29 後使用 AWS Panorama - AWS Panorama

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

更新 8.0.29 後使用 AWS Panorama

AWS 全景 8.0.29 版結束支援 SageMaker Neo 模型。這是因為 SageMaker Neo for Edge Devices 已提取對 NVIDIA Jetpack 的支援SDK。8.0.29 不支援 Jetpack 4.6,但您仍可在舊映像上部署 Jetpack 4.6 Neo 模型。如果您的應用程式目前正在使用 SageMaker Neo 模型節點,則有兩種選擇可以繼續:

  1. 在沒有 Neo 模型的情況下重建您的應用程式,以便與 Jetpack 5.1.1 搭配使用。建議的策略是直接在 上執行模型GPU。如需詳細資訊,請參閱下列在 OpenGPU 上執行應用程式一節。

  2. 拒絕更新至 8.0.29,並繼續使用 Neo 模型節點。

雖然 8.0.29 映像被標記為「強制性」,但您不會被強制升級到它。使用舊映像時,所有一般函數都可使用,包括管理 (部署) 應用程式,以及OTA從一個 8.0.29 前映像到另一個 8.0.29 前映像。不過,您將無法OTA從 8.0.29 後映像到先前較舊的映像。

以下是允許和不允許版本變更的範例:

  • 允許:6.0.8 -> 6.2.1

  • 允許:6.2.1 -> 7.0.13

  • 允許:7.0.13 -> 8.0.29

  • 不允許:8.0.29 -> 7.0.13

應用程式基礎映像變更

對於 1.2.1-arm64v8 和 latest_jetpack5 版本,更新的 base Docker 映像可以位於以下連結:

Amazon ECR Public Gallery

8.0.29 的應用程式基礎映像變更如下:

  • 將基本映像從 Ubuntu 18 變更為 Ubuntu 20

  • 軟體版本:

    1. Python - 3.8.10

    2. NumPy - 1.24.4

在開放GPU架構上執行應用程式

如果您想要更新至已結束支援 SageMaker Neo 的 AWS Panorama 版本,您可以將 SageMaker Neo 應用程式遷移至使用 Open 的架構GPU。使用 OpenGPU 的優點是您的應用程式可以直接GPU存取硬體,讓您擁有更大的彈性和效能。

下列連結是一些範例應用程式,示範如何使用 OpenGPU 來執行 Jetpack 5 應用程式:

在 Panorama 中使用 Tensor RT 執行 Yolov5s

將 YoloV5s轉換為 ONNX並在 Panorma 上執行

使用 Torch 和 在 Panorama 上執行 YoloV5s TorchVision