Usando o AWS Panorama após a atualização 8.0.29 - AWS Panorama

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Usando o AWS Panorama após a atualização 8.0.29

AWSA versão 8.0.29 do Panorama encerra o suporte para modelos SageMaker Neo. Isso ocorre porque SageMaker o Neo for Edge Devices retirou o suporte para o NVIDIA JetpackSDK. O Jetpack 4.6 não é compatível com a versão 8.0.29, embora você ainda possa implantar modelos do Jetpack 4.6 Neo em imagens mais antigas. Se seu aplicativo estiver usando atualmente os nós do modelo SageMaker Neo, você tem duas opções de como proceder:

  1. Reconstrua seu aplicativo sem os modelos Neo para uso com o Jetpack 5.1.1. A estratégia recomendada é executar modelos diretamente no GPU lugar. Consulte a seção a seguir sobre Como executar aplicativos no Open GPU para obter mais informações.

  2. Recuse a atualização para 8.0.29 e continue usando os nós do modelo Neo.

Embora a imagem 8.0.29 esteja marcada como “Obrigatória”, você não será forçado a atualizá-la. Ao usar a imagem antiga, todas as funções regulares estão disponíveis, incluindo gerenciamento (implantação) de aplicativos e OTA de uma imagem anterior à 8.0.29 para outra imagem anterior à 8.0.29. No entanto, você não poderá passar OTA de uma imagem posterior à 8.0.29 para uma imagem anterior mais antiga.

Veja a seguir exemplos de quais alterações de versão são permitidas e não permitidas:

  • Permitido: 6.0.8 -> 6.2.1

  • Permitido: 6.2.1 -> 7.0.13

  • Permitido: 7.0.13 -> 8.0.29

  • Não permitido: 8.0.29 -> 7.0.13

Alterações na imagem da base de aplicativos

As imagens básicas atualizadas do Docker podem estar no link a seguir, para as versões 1.2.1-arm64v8 e latest_jetpack5:

Galeria ECR pública da Amazon

As alterações na imagem base do aplicativo para 8.0.29 são as seguintes:

  • Altere a imagem base do Ubuntu 18 para o Ubuntu 20

  • Versões de software:

    1. Python - 3.8.10

    2. NumPy - 1.24,4

Executando aplicativos em uma GPU estrutura aberta

Se você quiser atualizar para uma versão do AWS Panorama que encerrou o suporte ao SageMaker Neo, você pode migrar seus aplicativos SageMaker Neo para uma estrutura que usa o OpenGPU. A vantagem de usar o Open GPU é que seu aplicativo tem acesso direto GPU e de hardware, oferecendo maior flexibilidade e desempenho.

Os links a seguir são alguns exemplos de aplicativos que demonstram como o Open GPU pode ser usado para executar aplicativos do Jetpack 5:

Execute o Yolov5s com o Tensor RT no Panorama

Converta Yolov5s ONNX e execute no Panorma

Execute o Yolov5s no Panorama com o Torch e TorchVision