支援的裝置、晶片架構和系統 - Amazon SageMaker

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

支援的裝置、晶片架構和系統

Amazon SageMaker Neo 支援下列裝置、晶片架構和作業系統。

裝置

您可以使用 Amazon SageMaker 主控台中的下拉式清單選取裝置,或TargetDevice在的輸出組態中指定 CreateCompilationJobAPI.

您可以選擇下列其中一個 Edge 裝置:

裝置清單 單晶片系統 (SoC) 作業系統 架構 加速器 編譯器選項範例
aisage Linux ARM64 馬利
amba_cv2 CV2 Arch Linux ARM64 cvflow
amba_cv22 CV22 Arch Linux ARM64 cvflow
amba_cv25 CV25 Arch Linux ARM64 cvflow
coreml iOS、macOS {"class_labels": "imagenet_labels_1000.txt"}
imx8qm NXPimx8 Linux ARM64
imx8mplus i.MX 8M Plus Linux ARM64 NPU
jacinto_tda4vm TDA4VM Linux ARM TDA4VM
jetson_nano Linux ARM64 NVIDIA {'gpu-code': 'sm_53', 'trt-ver': '5.0.6', 'cuda-ver': '10.0'}

對於 TensorFlow2{'JETPACK_VERSION': '4.6', 'gpu_code': 'sm_72'}

jetson_tx1 Linux ARM64 NVIDIA {'gpu-code': 'sm_53', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'}
jetson_tx2 Linux ARM64 NVIDIA {'gpu-code': 'sm_62', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'}
jetson_xavier Linux ARM64 NVIDIA {'gpu-code': 'sm_72', 'trt-ver': '5.1.6', 'cuda-ver': '10.0'}
qcs605 Android ARM64 馬利 {'ANDROID_PLATFORM': 27}
qcs603 Android ARM64 馬利 {'ANDROID_PLATFORM': 27}
rasp3b ARMA56 Linux ARM_EABIHF {'mattr': ['+neon']}
rasp4b ARMA72
rk3288 Linux ARM_EABIHF 馬利
rk3399 Linux ARM64 馬利
sbe_c Linux x86_64 {'mcpu': 'core-avx2'}
sitara_am57x AM57X Linux ARM64 EVE和/或 DSP
x86_win32 Windows 10 X86_32
x86_win64 Windows 10 X86_32

如需有關每個目標裝置之JSON索引鍵值編譯器選項的詳細資訊,請參閱資OutputConfigAPI料類型中的CompilerOptions欄位。

系統與晶片架構

下列查詢資料表提供有關 Neo 模型編譯任務之可用作業系統和架構的資訊。

Linux
加速器 X86_64 X86 ARM64 ARM_EABIHF ARM_EABI
無加速器(CPU)
英偉達 GPU
Intel_Graphics
ARM马里
Android
加速器 X86_64 X86 ARM64 ARM_EABIHF ARM_EABI
無加速器(CPU)
英偉達 GPU
Intel_Graphics
ARM马里
Windows
加速器 X86_64 X86 ARM64 ARM_EABIHF ARM_EABI
無加速器(CPU)